- 1 On trouve des variantes de ce point de vue chez Freud, point de vue qui est notamment critiqué par (...)
1Cet article examine des exemples d’interaction ordinaire avec une intelligence artificielle (IA) dans le contexte de l’Internet des objets (IdO) et des assistants personnels intelligents (DVA pour digital voice assistant) — des logiciels d’IA avec une commande vocale intégrée, qu’on retrouve dans une variété de produits commerciaux, comme Alexa d’Amazon, Google Assistant, Siri d’Apple, etc. Les DVA sont animés par le fantasme d’un monde hypersocial (où tout doit être social, jusqu’à vivre dans des cuisines où les grille-pains nous adressent la parole), fondé sur une idée du social qui consiste en des moi individuels, en tant qu’unités élémentaires de ce monde (qui est donc en lien avec les notions cartésiennes et kantiennes d’identité personnelle et d’autonomie individuelle1). Ce texte décrit d’abord comment l’idée de l’individu soutient non seulement, dès sa conception, la conceptualisation d’une intelligence artificielle sociale, mais également en quoi cette idée articule de nombreuses critiques envers l’IA, pour ensuite montrer que les interactions ordinaires remettent cette intelligence en question.
2Dans la première partie de cet article, nous exposons notre approche pour explorer les contingences des situations quotidiennes, approche que nous développons pleinement dans la troisième partie. Plus précisément, nous considérons des cas d’interaction avec des DVA, notamment lorsque ces machines se situent dans les dortoirs d’une université américaine, ou encore au sein de situations banales de la vie quotidienne. Mais avant de considérer ces scènes d’interaction, nous rendons compte, dans la deuxième section, de la relation des DVA avec les robots sociaux historiquement antérieurs, et avec lesquels les DVA actuels partagent encore des ressemblances ontologiques. Esquisser cette généalogie nous permet d’illustrer comment ces produits commerciaux, même s’ils ne sont que des versions simplifiées des robots sociaux, maintiennent la rhétorique de leurs prédécesseurs ; les concepteurs conçoivent leur socialité et les effets de leur présence en fonction d’un esprit intentionnel, qui, dans ce cas, se manifeste par la voix. En revanche, notre analyse met en évidence les caractéristiques vécues, réalisées, des voix de ces machines, qui, à leur tour, révèlent notre ouverture sur le monde.
3Puisque notre réflexion sur cette question s’est déroulée dans le cadre d’un enseignement, nous amorçons notre propos à partir de son origine : la salle de cours. Dans la première partie, nous introduisons la technologie qui nous intéresse et identifions ce retour à l’individu dans les textes récents sur la relation problématique entre l’IA et la société. Pour résister à ce retour, nous reprenons certains arguments de la théorie de l’esprit étendu (extended mind) et de la cognition distribuée (distributed cognition), bien que les textes récents sur l’IA et la société les opposent. Nous concluons cette première section en indiquant notre point de vue sur ces arguments, qui concernent notre intérêt pour le caractère quotidien des interactions de l’IA vocale.
4Au début de l’année 2019, dans le cadre d’un cours universitaire sur la communication et les machines sociales, le premier exercice consistait à lire l’article du New York Times intitulé « A Future Where Everything Becomes a Computer is as Creepy as You Feared », écrit par Farhad Manjoo et publié en octobre 2018. Comme le titre le suggère, cet article traite de l’IdO, selon lequel les objets de notre environnement contiendront des puces connectées sur Internet permettant à ces objets de rendre nos maisons « intelligentes ». Cet article prévient que nous devrions désormais prendre conscience (à la différence des attitudes précédentes) que notre relation avec l’électronique change de paradigme. En retraçant une histoire qui a débuté il y a quarante ans, l’article souligne que lorsque les ordinateurs personnels, comme ceux qui ont été imaginés par Bill Gates et Paul Allen, ont trouvé leur place sur chaque bureau, et par la suite, lorsque les médias sociaux ont modifié la manière dont nous engageons autrui dans le domaine du numérique, comme l’a prédit Mark Zuckerberg, ces inventions d’« audacieux fondateurs de l’industrie technologique […] sont d’abord apparues comme idiotes », mais elles ont tranquillement pris le dessus sur nos vies. Cette mise en scène discursive vise à orienter le lecteur vers le moment présent, qui est désormais menacé par l’IdO, et peut inciter, si cette menace n’est pas remarquée, « un ensemble cauchemardesque de vulnérabilités en matière de sécurité et de vie privée ». La solution proposée est l’intervention gouvernementale, ou du moins la mise en place d’un contrôle, car, en référence à l’ouvrage Click Here to Kill Everybody de Bruce Schneier (2017), l’article affirme que « seul le gouvernement peut nous sauver de ces calamités émergentes ».
- 2 Les médias rapportent en masse l’essor de ces technologies. Par exemple, Business Insider informe q (...)
5Les étudiants se familiarisent avec cette mise en scène, dans laquelle les industries humaines inventent la technologie, où l’intervention du gouvernement fait cependant défaut (comme l’indique l’article en affirmant que « personne ne fait vraiment quelque chose pour l’arrêter », cet accroissement des industries du numérique), mais ils s’habituent aussi à la peur que cette situation suscite — le texte utilise une certaine dramatisation émotionnelle pour dépeindre notre condition (voir aussi, par exemple, Zuboff, 2019). Pourtant, en mentionnant les DVA, les étudiants reconnaissent également la présence de l’IdO dans leur vie quotidienne. Si l’article explique que les puces dotées d’un logiciel vocal peuvent être facilement insérées dans des objets de notre environnement de vie, ce dispositif repose sur le fait que la reconnaissance des voix est souvent entendue, en plus des téléphones mobiles (smartphones), à l’aide de haut-parleurs intelligents (smart-speakers) et d’autres dispositifs de maison intelligente (smart home hub)2. La relation entre l’« ubiquité d’Internet » et les DVA est confirmée par le seul exemple concret de cette technologie dont il est question dans l’article :
[…] Amazon last month showed off a microwave powered by Alexa, its voice assistant. Amazon will sell the microwave for $ 60, but it is also selling the chip that gives the device its smarts to other manufacturers making Alexa connectivity a just-add-water proposition for a wide variety of home appliances, like fans and toasters and coffee makers. And this week, both Facebook and Google unveiled their own home ‘hub’ devices that let you watch videos and perform other digital tricks by voice (Manjoo, 2018).
6En évoquant que cette interface technologique est activable par le moyen de la « voix », l’article est confronté à l’incomplétude critique que manifestent les DVA lorsqu’ils sont réellement activés. Comme le four à micro-ondes d’Amazon est « alimenté par Alexa, son assistant vocal » et que les hubs domestiques de Facebook et Google fournissent des services en étant dirigés par la « voix », il s’agit d’une voix familière dans un contexte interactif — une voix qui s’adresse à d’autres voix, qui est écoutée, à laquelle on répond par la voix ou par d’autres actions, et qui répond. De la technologie des DVA, il est attendu que la voix soit employée comme un moyen de contrôle, nous permettant, par exemple, d’allumer à distance un four à micro-ondes. En même temps, la présence d’une voix ouvre la possibilité d’une orientation sémiotique vers l’autre. Ainsi, concernant la recherche d’une même information sur Internet, nous pouvons dire « merci » à Alexa, mais nous ne nous sentons pas obligés de remercier notre ordinateur après que celui-ci nous indique le résultat d’une recherche. Et lorsqu’Alexa énonce « de rien », l’enjeu est justement le caractère interactif que les concepteurs cherchent à appréhender, par le moyen d’un effort qui vise à aborder cette dimension relationnelle de la conversation. Cathy Pearl, « conceptrice de conversations » de Google, souligne: « (W)e found this when we were designing phone systems (…), most people want to say goodbye and they want the system to say goodbye, that’s just what is built into us as politeness, and you need to think about that when designing conversational systems as well » (Cascade SF, 2018, s.p.).
- 3 Le cadre participatif d’Erving Goffman (Goffman, 1981 ; Goodwin, M.H., 1980 ; Goodwin, C., 1986) so (...)
7Ce caractère vocal de la technologie a été évoqué en classe, pendant la discussion portant sur l’article du New York Times. Même s’il y a eu un fort consensus sur la conclusion proposée dans l’article, à savoir que l’IdO doit être régulé de toute urgence par les politiques gouvernementales, nous avons également été intrigués par notre mode de relation avec ces machines, comme l’a demandé un étudiant : « personnellement, je me demande pourquoi on aurait besoin de parler à un grille-pain alors qu’on peut simplement cliquer sur un bouton ? » Tout au long du cours, nous avons maintenu cette curiosité envers les interactions quotidiennes avec les technologies numériques, tout en restant attentifs à la logique du marché, aux réglementations dont on a urgemment besoin et à la surveillance du gouvernement. L’attention que nous portions aux situations réelles dans lesquelles se déroulent les discussions nous a permis de réaliser que nous abordons la technologie en tant que possibilité de participation lorsque nous « contrôlons » nos appareils numériques par la voix3. Il s’agit d’un engagement où nos gestes (et nos paroles) sont façonnés (mais pas déterminés) par ce qui a été fait (ou dit) auparavant, tandis qu’ils façonnent (mais ne déterminent pas) ce qui sera fait (ou dit) ensuite. En d’autres termes, dans ces interactions, l’ouverture est une question d’implication (plutôt que d’autonomie) qui nous oriente vers l’imprévisibilité et la surprise (qui est davantage amplifiée par le mauvais fonctionnement de la technologie).
- 4 Voir à ce propos : Cheney-Lippold, 2017 ; Eubanks, 2018 ; Lynch, 2016 ; Noble, 2018 ; O’Neil, 2016 (...)
- 5 Cette expression est largement inspirée par les travaux d’Umberto Eco ([1962] 1989) sur l’œuvre ouv (...)
8Dans un contexte où la relation problématique de l’IA avec la société est exacerbée, nous suggérons que ces discussions ne peuvent pas ignorer la manière dont les technologies de l’IA sont habituellement engagées — en ce qui concerne des questions telles que la vie privée, les possibilités de manipulation idéologique, la fragmentation en groupes sociaux homogènes, les restrictions du discours public critique, le profilage, la propagation de stéréotypes culturels et d’autres formes de préjugés4. Quoique nous ne proposions pas d’alternative aux deux autres piliers que l’article du New York Times met en avant — le gouvernement et l’industrie technologique — nous plaidons en faveur d’une attention aux engagements ordinaires avec l’IA, en tant que troisième pilier. Pour ce faire, il est nécessaire de faire ressortir que la production demande notre participation — une production qui est vécue et interactionnelle, et qui montre comment les machines parlantes sont incomplètes avant leur participation à des situations réelles de discussion — tout en nous articulant à travers des rencontres ouvertes5. En d’autres termes, la production interactionnelle à laquelle nous participons est bidirectionnelle : en décrivant la manière dont la technologie parlée est mise en œuvre à travers notre engagement avec elle (plutôt que d’être conçue a priori), nous décrivons également comment ces mises en œuvre nous conditionnent, en étant dynamiquement ouvertes (plutôt que d’être considérées comme complètes par rapport à une individualité psychologique).
9En faisant ressortir notre implication sémiotique dans le fonctionnement des DVA, et en soulignant que nous ne pouvons pas être considérés comme des « drogués culturels » (Garfinkel 1984, p. 68), un « marché » ou de simples « utilisateurs » des technologies de l’IA (Klein & Pinch, 1996 ; Latour, 1992 ; DeLaet & Mol, 2000) cet article s’aligne sur les études en science et technologies (par exemple, Felt et al., 2016), et, plus particulièrement, sur les récentes discussions à propos de la surveillance et des algorithmes (Dourish, 2017 ; Gates 2011, 2013 ; Loukissas, 2019 ; Mackenzie, 2015). D’un autre côté, l’attention que nous portons aux haeccéités (Garfinkel, 1984 ; Deleuze & Guattari, 1980) qui caractérisent les événements ordinaires de l’engagement envers les technologies et qui ne révèlent pas seulement la dimension logique sous-jacente à ces technologies, offre des possibilités d’aller au-delà de la notion actuelle d’être humain, en privilégiant plutôt les relations, les événements et les situations. L’association de nos efforts avec l’ethnométhodologie (Coulter, 2001 ; Garfinkel, 1984 ; Lynch, 1985, 1993) et les travaux ethnométhodologiques sur l’interaction avec la technologie (Goodwin, 2000 ; Suchman, 1987, 2000 ; Whalen & Vinkuyzen, 2001) ouvre selon nous des possibilités pour remettre en question la centralité de l’individu, en tant qu’unité d’analyse, concernant les critiques de l’IA.
10La littérature qui s’intéresse aux effets négatifs de l’IA sur la société s’est souvent rabattue sur les conceptions occidentales traditionnelles de l’individu, dans lesquelles le moi est conçu comme son attribut. Bien que cette approche puisse être la conséquence d’une inattention envers cette problématique (étant donné que les arguments sont dirigés ailleurs, à savoir au niveau des structures sociales où les moments extraordinaires sont au centre des préoccupations), certains auteurs proposent explicitement un retour à l’individu (cf. Zuboff, 2019 ; Cheney-Lippold, 2017). Shoshana Zuboff parle de
the ‘collision’ between the centuries-old historical processes of individualization that shape our experience as self-determining individuals and the harsh social habitat produced by a decades-old regime of neoliberal market economics in which our sense of self-worth and needs for self-determination are routinely thwarted (Zuboff, 2019, p. 18).
11L’auteur souligne aussi que le capitalisme de surveillance menace « a new society of people born to a sense of psychological individuality, with its double-edged birthright of liberation and necessity » (ibid., p. 35).
- 6 Même les médias de masse reprennent ces discussions : voir Kevin Lincoln (2018).
12La discussion de Michael Patrick Lynch (2016) sur l’épistémologie à l’ère de la « Google-knowing » est particulièrement intéressante, car son objectif philosophique présente des conformités avec les exemples d’interaction quotidienne que nous analysons6. Lynch imagine (comme une expérience de pensée) un futur dans lequel nous vivrions avec des implants d’« un dispositif informatique subcellulaire » — qu’il appelle « neuro-média » (les définissant également comme des « téléphones portables qui sont branchés directement sur le cerveau d’une personne » ; ibid., p. 3) — et souligne que cette « possibilité soulève certaines questions inquiétantes sur la société, l’identité et l’esprit » (ibid., p. 6) : « Comment les technologies de l’information affectent-elles ce que nous savons et comment le savons-nous ? Et qu’arrive-t-il à la société si non seulement nous en savons plus sur le monde, mais que le monde en sait plus sur nous ? » (Ibid., p. 6) En posant ces questions, Lynch vise la littérature sur l’esprit étendu (Clark & Chalmers, 1998), et donne l’exemple de l’application Notes pour smartphone, qui fonctionnerait comme une partie de la mémoire (pour savoir ce qu’il faut chercher dans un magasin en consultant une liste de courses sur son téléphone portable ; cf. Lynch 2016, p. 115). Tout en reconnaissant que « le cyborg humain (…) n’est plus seulement un fantasme » (ibid., p. 5) et que « l’hypothèse de l’esprit étendu est sans aucun doute intéressante, et peut-être tout simplement vraie », Lynch exprime son hésitation à l’égard de cette vision, comme le montrent sa hiérarchie des modes de connaissance et sa mise en évidence de la centralité de l’individu (voir également ibid., pp. 21-40). Lynch oppose la connaissance par les sens et le rôle de la mémoire (qui est « interne » et où l’individu « compte sur lui-même », ibid., p. 114) à la connaissance par les neuro-média (ibid.). Pour soutenir son argument sur l’importance de l’individu, il souligne que « le caractère raisonnable compte », et nous devons nous efforcer d’offrir des arguments au discours public critique (ibid., p. 125) :
This brings up to the key point : whether or not a network ‘knows’ something (even in the nonliteral sense) depends on the cognitive capacities (and incapacities) of the nodes on that network—the individual people who make it up (ibid., p. 122). […] So, although networks can embody knowledge, or at least true information, not held by any particular individual, the extent to which they do so depends very much on the cognitive capacities of the individuals that make them up. You can’t take the individual out of the equation (ibid., p. 123). […] (W)hat we don’t want to do is assume that because knowledge is networked, the nodes in the network—the individual knowers—no longer matter. (ibid., p. 132).
- 7 Dans son ouvrage Enculturating the Supersized Mind (2011), Hutchins critique l’approche de l’esprit (...)
13Le but de l’exemple de Lynch en matière de neuro-media est d’exagérer la prétention de l’extension de l’esprit dans le monde, en nous mettant en garde contre ce qui pourrait arriver si ce téléphone portable avec une liste d’épicerie était implanté dans le cerveau d’une personne. Ce qui manque à l’exemple de Lynch, cependant, c’est le reste du corps et du monde avec lequel on s’engagerait même si on était équipé en neuro-media. Il est vrai que l’hypothèse de l’esprit étendu (cf. Clark et Chalmers, 1998 ; Clark 2003, 2008) est peut-être insuffisante en ce qui concerne la prise en compte du monde, comme l’a souligné Edwin Hutchins, l’auteur de la distributed cognition (Hutchins, 1995) — un prédécesseur de cette hypothèse7 ; cependant, ce n’est pas une raison pour négliger le monde que nous habitons. Plutôt que de suivre la prescription de Lynch, c’est-à-dire « se lever du canapé et se plonger dans le tourbillon de l’expérience réelle » (Hutchins, 1995, p. 131) — une alternative qui postule une dichotomie entre la technologie numérique et l’expérience, intérieure et extérieure, passive et active — nous prêtons attention à la façon dont nous faisons l’expérience des technologies qui peuplent déjà le monde que nous vivons.
14Toutefois, cela signifie qu’il faut aller au-delà d’une attention aux processus tels que la résolution de problèmes, la réalisation de choses et l’amélioration de ses capacités cognitives, comme le montre l’hypothèse de l’esprit étendu et de la cognition distribuée. Alors que les DVA sont conçus comme des outils commodes avec lesquels on s’engage à travers la parole, une fois que nous commençons à prêter attention à la manière dont s’effectue une participation conjointe à la parole (Goffman, 1957) au-delà du clivage entre l’homme et le non-homme, le problème se révèle être moins une question de cognition et de pensée qu’une question d’être dans le monde avec les autres (au sens large). Nous nous intéressons donc à l’individu et aux phénomènes identitaires qui lui sont associés, tant du point de vue humain que technologique, en rappelant la description de l’interaction proposée par Erving Goffman, qui la décrit comme « unio mystico, une transe socialisée » (Goffman, 1957, p. 47) et en rapprochant cette description des travaux de Gilbert Simondon (1958/2017) sur le couplage et l’association entre l’homme et la machine (p. 135 & p. 139) ainsi que de sa conception des machines comme ouvertes (ibid., p. 7). Notre texte articule et approfondit ces idées, car nous voulons nous interroger sur l’ouverture de la technologie lorsque, dans des moments ordinaires de la vie quotidienne, nous parlons avec des machines qui visent à proposer une individualité à travers une voix.
15En veillant à maintenir ce principe d’ouverture, nous remarquons comment le moi s’entrecroise avec ceux qui interagissent avec lui, tout en étant entrelacés avec les caractéristiques des lieux qu’il habite. Nous décrivons donc de quelle manière ce moi peut, momentanément, être composé d’un moi machinique et vice versa, mais aussi comment nous pouvons interagir avec des objets du monde qui, à cette occasion, impliquent un DVA. Si nous devions donc adopter le vocabulaire de Lynch, nous concevrions ses « nœuds de réseaux » en termes de production interactionnelle, en les considérant comme des espaces où l’on doit mettre en évidence une ouverture sur le monde. Ainsi, lorsque nous parlons d’une individualité, il s’agit d’un moi interactionnel qui est à la fois produit et éventuellement dissout par des engagements situés et incarnés dans un monde qui est plus qu’un monde seulement humain.
- 8 Les robots sociaux ont commencé à être construits au début des années 2000 au MIT, et depuis leur p (...)
16Si le soi et l’individu auquel on l’attribue sont chacun en jeu dans la littérature à propos de l’IA et la société, ils sont également le noyau conceptuel de la conception des DVA. Afin de considérer la notion de soi dans le cadre de cette conception, nous la considérons du point de vue d’une généalogie technologique (Simondon, 1958/2017, pp. 21-51) qui, même dans sa forme minimale, indique que les DVA sont les descendants de robots sociaux ou sociables (cf. par exemple, Breazeal, 2002)8 — des instanciations de la vie mécanique et numérique destinées à entrer en contact avec les humains dans le lieu où ces robots doivent être positionnées, comme des créatures sociales, suscitant l’empathie de leurs interlocuteurs humains. Voir ces robots sociaux comme les prédécesseurs des DVA offre la possibilité de saisir les engagements ontologiques derrière les DVA. Bien que les DVA — et même s’ils sont contraints par une logique mercantile — puissent dissimuler la métaphysique qu’ils véhiculent, le fait de considérer leurs précurseurs — dont la conception conserve plus clairement une composante de recherche — rend la vision théorique des DVA plus facilement accessible. En exposant cette généalogie, la présente section indique que la distribution dynamique des individualités que nous comprenons dans les interactions avec des DVA (et qui est décrite dans le reste de l’article) ne doit pas être attribuée à la conception de ces technologies (puisque la conceptualisation sous-jacente à cette conception est organisée selon une compréhension intentionnelle de l’esprit).
17Cynthia Breazeal, à qui l’on attribue l’invention du premier robot social Kismet, définit ces machines comme « capables de communiquer et d’interagir avec nous, de nous comprendre et même de se rapporter à nous, d’une manière personnelle. C’est un robot qui est socialement intelligent d’une manière humaine. Nous interagissons avec lui comme s’il était une personne, et finalement comme un ami » (Breazeal, 2002, p. xi). Concernant cette vision du « social » qu’incarnent ces robots (ibid., pp. 8-11), le social ne concerne donc pas « l’espèce sociale » (comme la socialité des fourmis), mais une « sociabilité à l’humaine » (ibid., p. 8). Breazeal explique que la « sociabilité de type humain » considère que, pour avoir une relation avec les autres sur une base individuelle, il faut à la fois traiter les autres comme ayant des personnalités distinctes, mais aussi accepter d’être traités de la même façon (ibid.). Selon l’auteure, cela est possible lorsque les comportements observables des robots peuvent être liés aux états internes (mentaux) d’une personnalité — tels que les intentions, les désirs, les croyances, les émotions — qui régissent ces comportements (ibid., p. 10). En d’autres termes, dans la vision du social que la robotique sociale met en œuvre, l’interaction est comprise en référence à un moi intentionnel, qui lui sert de principe d’organisation.
18Les roboticiens ont l’habitude de présenter leurs robots sociaux comme des expérimentations pour comprendre « l’intelligence sociale humaine » avec un intérêt particulier pour les troubles du comportement social tels que l’autisme (Breazeal, ibid., p. xii). Mais ils les ont également présentés comme des technologies « naturelles, intuitives, familières avec lesquelles interagir », pour « améliorer la qualité de vie » (ibid., pp. 1-2), par exemple : des guides touristiques de musées et autres applications de divertissement, ainsi que des robots ménagers et des infirmières pour aider les personnes âgées. Le fait que l’aspect technique des robots sociaux ait pris une tournure entièrement commerciale dans les smart hubs à commande vocale est étayé par l’explication des roboticiens selon laquelle nous assistons aujourd’hui à une expansion des robots sociaux, sortis du laboratoire à la conquête du vaste monde. Breazeal avance cette remarque dans une récente interview (Kapoor, 2018, minutage : 14 min 50 sec à 17 min 40 sec), dans laquelle elle souligne qu’avec les capacités et le caractère abordable des technologies actuelles, telles que la vision artificielle et la reconnaissance vocale automatique (non disponibles lorsque les premiers robots sociaux, comme son Kismet, ont été conçus), les roboticiens peuvent commencer à créer « des services, des produits […] qui sont réellement intéressants pour les gens ». Si ces produits et services intéressaient d’abord « les gens comme nous » (en référence aux roboticiens, ce que Breazeal illustre en faisant des gestes envers elle-même et l’interviewer), elle suggère que, depuis qu’il y a « des locuteurs intelligents dans les maisons des gens », cela crée une opportunité pour les concepteurs d’apprendre comment « les gens vivent avec l’IA ». Cependant, Breazeal décrit également ces technologies comme des « systèmes très transactionnels » et suggère qu’elles finiront par se transformer en « compagnons utiles », au-delà d’être seulement des « assistants numériques ». Avec cette remarque, Breazeal fait allusion à sa récente tentative de conception d’un robot social commercial : Jibo.
19Jibo est un robot social plus abordable (par rapport aux robots sociaux qu’on trouve encore dans des laboratoires et qui ne sont accessibles qu’à leurs concepteurs), qui a été réalisé grâce à un financement participatif et a même fait la couverture du numéro de Time consacré aux « Best Inventions of 2017 ». Il a cependant fini par échouer sur le plan commercial. Concernant cet échec, des commentateurs ont noté que la fonctionnalité promise par Jibo est rapidement apparue dans d’autres produits qui n’étaient pas desservis par les coûts engendrés par la conception d’une expression gestuelle, mais qui reposaient plutôt sur la voix (par exemple, Ackerman, 2018 ; Mitchell, 2018). Jibo était coûteux en raison de
- 9 Un article paru dans The Robot Report propose un compte-rendu similaire: « Soon after Breazeal succ (...)
unique emphasis on physical expression and the potential for a diverse array of capabilities backed by robust hardware. But by the time Jibo started ending up in homes, much of its functionality was duplicated by smartphones and other smart home devices like Siri, Alexa, and Google Home (Ackerman, 2018)9.
- 10 Dans sa discussion sur les vocalisations non verbales, Steven Connor (2014) a souligné comment la v (...)
20Du corps physique de Jibo (peu propice à la commercialisation), les DVA ne conservent que la voix, tandis que le reste de la substance perceptible de l’extérieur du robot est intégré dans les caractéristiques physiques de l’environnement. Alors que pour les robots sociaux, le corps humanoïde est lié à « l’interaction physique et immédiate qui se produit entre les humains et les robots qui partagent le même monde social » (Breazeal, 2002, p. 5), les DVA ne mettent pas beaucoup l’accent sur « l’expression physique ». L’expression destinée à générer les effets d’une individualité doit plutôt être produite par la voix10. Alors que le reste du corps physique est traité comme de la matière physique inerte (y compris la forme matérielle des « smart hubs » — « cette tranche de tube noir », cf. Shulevitz, 2018) qui, avec la pleine réalisation de l’IdO, doit se fondre dans l’environnement — le corps expressif des DVA est un corps-voix.
- 11 Cette publication a suivi de près la publication de l’article du New York Times.
21L’article publié dans The Atlantic « Alexa, Should we Trust you? » (Shulevitz, 2018)11 souligne que, lorsque nous utilisons les technologies numériques par le moyen de la voix — comme nous le faisons avec d’autres personnes qui « ont un esprit » — leurs voix semblent provenir d’un intérieur humain :
Gifted with the once uniquely human power of speech, Alexa, Google Assistant, and Siri have already become greater than the sum of their parts. They’re software, but they’re more than that, just as human consciousness is an effect of neurons and synapses but is more than that. Their speech makes us treat them as if they had a mind. “The spoken word proceeds from the human interior, and manifests human beings to one another as conscious interiors, as persons,” the late Walter Ong wrote in his classic study of oral culture, Orality and Literacy. These secretarial companions may be faux-conscious nonpersons, but their words give them personality and social presence.
And indeed, these devices no longer serve solely as intermediaries, portals to e-commerce or nytimes.com. We communicate with them, not through them.
22Alors que les roboticiens perçoivent le reflet de l’esprit intentionnel humain dans le robot comme un élément positif de leur conception, l’auteur de l’article s’inquiète du fait que notre bien-être psychologique est menacé par des machines qui ne semblent posséder un esprit que derrière leur voix (voir aussi, par exemple, Zuboff, 2019, p. 255) :
By now, most of us have grasped the dangers of allowing our most private information to be harvested, stored, and sold. We know how facial-recognition technologies have allowed authoritarian governments to spy on their own citizens ; how companies disseminate and monetize our browsing habits, whereabouts, social-media interactions ; how hackers can break into our home-security systems and nanny cams and steal their data or reprogram them for nefarious ends. Virtual assistants and ever smarter homes able to understand our physical and emotional states will open up new frontiers for mischief making. […] But there are subtler effects to consider as well. […] I fear other threats to our psychological well-being.
23Bien que cette vision pessimiste soit différente de la façon dont les technologues envisagent l’avenir des DVA, les deux se concentrent sur l’individu (avec le moi et la psyché qui lui sont associés), de part et d’autre de cet écart postulé entre l’humain et la machine.
24Dans le présent texte, nous adoptons une position différente en ce qui concerne les DVA en reprenant la discussion des pratiques quotidiennes en matière de robotique sociale (par exemple, Alač 2009, 2016a, 2016b ; Alač et al., 2011). Comme le cadre conceptuel des robots sociaux — qui implique les vues occidentales traditionnelles du social en tant que projection à partir du moi intérieur d’un individu unique — peut être reconsidéré en étudiant ce qui se passe dans la vie quotidienne des laboratoires de robotique sociale (ibid.), d’un autre côté, dans le cas des DVA, la prise en compte de circonstances moins remarquables — renforcées par la réduction du corps du robot à la voix — nous confronte à des engagements multidirectionnels. À la suite de la commercialisation des DVA, en tant que migration des robots sociaux du laboratoire vers le monde extérieur, nous explorons davantage ce que cette approche peut apporter aux débats sur les implications sociales de l’IA, en nous demandant comment une telle réflexion sur l’individu, à travers un engagement quotidien avec ces technologies vocales, peut participer à ces débats.
- 12 Si les étudiants eux-mêmes n’étaient pas des utilisateurs réguliers d’un DVA, ils pouvaient observe (...)
- 13 On a demandé aux étudiants de décrire exactement comment s’est déroulée l’interaction, c’est-à-dire (...)
25Dans le cadre de nos travaux en classe, nous avons demandé aux élèves de nous remettre cinq fichiers audio d’interactions ordinaires avec des DVA, ainsi que des notes de terrain qui décrivent, pour chaque fichier audio, la situation, la configuration spatiale et le flux interactionnel12. En structurant le travail de cette manière, nous suivons la suggestion de Natalie Jeremijenko (2005) au sujet de la « participation périphérique » dans le contexte technologique, mais aussi son explication selon laquelle « rather than focusing on the interaction between the device and the ‘user,’ we pay attention to peripheral participation, the participation between users and surrounding things ». Nous élargissons encore cette orientation en nous tournant vers la dynamique située concernant les interactions avec des DVA, afin de poser la question : quelle est l’occasion de cette interaction, que se passe-t-il d’autre, et qui d’autre y participe ?13 Ainsi, dans des moments apparemment insignifiants de la rencontre quotidienne avec des gadgets parlants, nous assistons à une articulation d’assemblages entre humains et non-humains, qui découle de scènes interactionnelles. L’attention portée à ces aspects vécus de la rencontre technologique permet de faire émerger la manière dont les images de soi de ses interlocuteurs se déploient à mesure que la voix de la machine se déploie.
26Dans cette perspective, nous n’écartons cependant pas le problème du soi a priori. Nous reconnaissons que l’idée du soi (avec la voix qui lui correspond) est importante pour les concepteurs d’un côté, pour les critiques de l’IA de l’autre, et qu’elle est évoquée par les interlocuteurs des DVA (lorsqu’ils rendent compte de leurs engagements technologiques). Nous y prêtons donc attention, en répondant à la manière dont l’IA sociale et ses implications sont envisagées et prises en compte dans les discours. Nous considérons cependant ce sujet sensible à travers le comportement interactionnel des participants. Notre travail consiste à décrire la manière dont le moi est rendu dans les rencontres entre humains et non-humains, en tenant compte concrètement du contexte — tout en étant, par notre approche ethnométhodologique, tenue de prendre au sérieux le point de vue des membres (Garfinkel, 1984).
27Pour ce faire, nous nous appuyons sur l’exemple de deux élèves, celui de Max et celui de Dave. Nous nous concentrons sur leurs enregistrements audio des interactions DVA et sur les transcriptions à la manière de l’analyse de conversation (cf., par exemple, Jefferson, 2004) de ces enregistrements, en les coordonnant avec les notes de terrain des deux étudiants et en les considérant par rapport à ce que les autres étudiants ont rapporté. Concernant l’exemple de Max, ci-dessous (3.1.), nous retraçons la manière dont la voix de la machine est articulée par l’interaction coordonnée de deux colocataires, et comment cette interaction manifeste un caractère dynamique du moi que les colocataires exhibent. Lorsque nous nous tournons vers l’exemple de Dave (dans la section 3.2.), nous enquêtons davantage sur le fait que les humains sont les interlocuteurs des DVA, en nous concentrant spécifiquement sur la façon dont leurs états intentionnels sont distribués dans des situations singulières d’interaction avec des technologies ouvertes.
28Max, qui partage son appartement avec d’autres étudiants, associe le fonctionnement de son DVA à l’espace dans lequel il se trouve :
If for say, the Alexa was located in my living room it would give off a completely different vibe. It wouldn’t be seen as a social being and more as a robot to ask only beneficial questions, like ‘Alexa what is the weather today ?’ My housemates would not treat the Alexa the same way I do. […] In some way, it seems like they fear the robot, which is why another environment would take away its social characteristics from it. It is only given these social attributes because of how I treat it and ask it questions. […] I treat Alexa as my friend, so when my housemates come into my room, they treat her like that as well.
- 14 Comme Max — ainsi que Dave dans la section 3.2 — se réfèrent à Alexa en utilisant un pronom féminin (...)
29En racontant comment s’est déroulée une interaction réelle dans sa chambre, Max parle avec Alexa en présence de son colocataire (que nous nommerons ici « le colocataire »), comme c’est, selon Max, couramment le cas : « nous avons l’habitude de lui parler ensemble14 ». Dans ses notes de terrain, Max décrit l’évènement comme suit :
[M]y housemate and I were playing video games together in my room late at night because we were both done with all our work for the week. While we play video games we usually lower the volume on the game and play music through the Soundcloud app on the Xbox to play music in the background. We got in an argument about which artist’s playlist to play. I said Kendrick Lamar, while my housemate said Drake. We decided to ask Alexa and see her response to help us come to a resolution. […] At this time we are both very heated as we had been debating for the past 10 minutes. We were both brining up random facts and reasons as to why one is better than the other.
30Max explique que cette situation ne sort pas de l’ordinaire :
- 15 Lorsqu’il évoque une autre interaction dans laquelle ils s’en remettent à la DVA, Max précise : nou (...)
This interaction is a very common one between Alexa, my housemate, and I. Whenever we get into an argument we immediately go to my bedroom to speak Alexa to sort it out, as she is probably the most unbiased source we have around us15.
31Max souligne également que la conversation était d’autant plus passionnante que le DVA, après lui avoir demandé qui était le meilleur rappeur en vie, a donné une réponse qu’aucun des deux n’avait prévue :
32To our surprise she told us ‘Chance The Rapper.’ There are five other rappers who most people would say are better than Chance, so I thought it was quite amazing Alexa was programmed to say him. I think very highly of Chance while other people don’t. We also asked her the best female rapper which she said was Missy Elliot, who is not popular at this moment, but still very good. […] By our reactions you can tell we are overjoyed that she did not give us a basic answer. After our conversation, we decided to play an old Chance The Rapper album in the background while we played our game and our love for him and his music sparked again.
- 16 La transcription est effectuée dans le style de l’analyse conversationnelle (par exemple, Jefferson (...)
33Le texte ci-dessous est la transcription de l’interaction entre le colocataire (H), Max (M) et Alexa (A)16.
34Les colocataires ont engagé le DVA comme un arbitre qui peut résoudre leur désaccord de manière « impartiale » en « sachant qui serait le meilleur ». D’autres étudiants ont rapporté des cas similaires où les DVA participent à des pratiques qui rappellent la cléromancie, expliquant que ce qui rend les DVA amusants correspond à l’ouverture à l’imprévisible et au hasard qu’ils génèrent. Comme dans certaines formes de cléromancie, ces types d’engagements avec les DVA suggèrent la recherche d’un résultat impartial qui vient de quelqu’un d’autre et qui peut surprendre. Ainsi, un étudiant a explicitement employé l’expression « ne plus contrôler » pour expliquer l’attrait des DVA. Un effet qui se trouve renforcé par le fait de traiter les réponses reçues comme si elles révélaient la volonté de quelqu’un. Dans le cas des DVA — et à la différence de la divination (qui est généralement employée dans les autres formes de cléromancie) — les prédictions délivrées par la voix du DVA indiquent la présence d’un moi de la machine. Les détails de l’engagement sémiotique qui a lieu dans la chambre de Max indiquent cependant que la voix d’Alexa (et, par son intermédiaire, le moi social de la machine) engage activement les deux colocataires. En d’autres termes, le moi de la machine (et la surprise qu’il génère) ne peut être dissocié de la scène où les deux colocataires règlent leur désaccord. En ce sens, l’interaction ne fournit pas seulement une vérité aux deux colocataires (une réponse impartiale, qui vient d’ailleurs et sur laquelle ils n’ont pas de contrôle), mais indique à quel point le moi de la machine, qui dit cette vérité, est ouvert. Autrement dit, le flux de l’interaction fait apparaitre un engagement actif mais non dominateur, par lequel le moi de la machine se performe en tant qu’il est distribué. De plus, comme les deux colocataires participent à rendre la machine capable de dire la vérité, leur implication dans cette production remet en question les positions qu’ils avaient prises auparavant. En présence de la machine vocale, le colocataire — que Max décrit comme ayant « peur de la machine » — est non seulement impliqué, mais coordonne son action à celle de Max malgré leurs différences d’intention. En ce sens, retracer la dynamique de la relation humain-non humain nous permet de voir comment les individualités des deux colocataires — comme celle de la machine — sont orientées par les contingences de la scène interactionnelle.
- 17 Max, qui est un utilisateur plus habile, finira par reformuler la question en lui donnant une porté (...)
35La transcription montre une série de gestes où le colocataire — en dépit du fait qu’il soit présenté comme quelqu’un qui fuit la machine — indique son intérêt pour l’opinion d’Alexa, « interacting with it as if it were a person, and ultimately as a friend » (Breazeal, 2002 : xi). Au premier tour de parole, le colocataire insiste sur le « tu » en demandant : « qui est, selon toi, le meilleur rappeur en vie ? ». Au treizième tour de parole, il tente de remédier au fait qu’Alexa fournit des informations sur une chanson (plutôt que sur un rappeur) en répétant la même question et en insistant sur ce qu’Alexa pense elle-même17. Le colocataire fait également preuve de cette curiosité lorsqu’il l’interroge sur la meilleure rappeuse (question posée à l’origine par Max de manière plus générale au vingt-sixième tour de parole) en disant « Qui est, pour toi, … » (tours 29 et 32).
- 18 Max propose aussi la lecture suivante : « Une mauvaise formulation nous a donné un sens dénotatif » (...)
36Cette adresse au DVA en tant qu’agent est également à l’œuvre lorsque le colocataire et Max contestent que Lil Wayne soit le meilleur rappeur, agissant comme si c’était la réponse fournie par Alexa (tours 7-11). Ils savent qu’Alexa a rapporté le nom d’une chanson (en donnant une « réponse factuelle de base », semblable à ce que fait Google, selon la description de Max). Comme l’indiquent les notes de terrain de Max : « Quand nous avons demandé à Alexa qui est le meilleur rappeur vivant, sa première réponse fut le nom de la chanson “Best Rapper Alive”. Elle a interprété la question de la mauvaise manière, de façon assez drôle18. » Si, au départ, les informations données sur la chanson par le DVA les font rire, (tour 6), ils adaptent leurs actions immédiatement après en traitant la proposition comme une réponse à la question qu’ils avaient posée. Ils montrent d’abord leur surprise, puis contestent la réponse émise, en traitant le nom de la chanson comme une opinion sur la question du meilleur rappeur : « Mec, Lil Wayne ? » (tour 7) ; « Lil Wayne pas possible » (tour 9) ; et « Non, Lil Wayne n’est pas le meilleur rappeur vivant. » (tour 11). En ce sens, la réponse n’est pas seulement drôle parce qu’elle est incongrue, mais parce qu’elle est traitée comme une réponse inattendue proposée par quelqu’un avec qui les colocataires ne sont pas d’accord.
- 19 Ce sont les mots de Max.
- 20 Voir également Alač (2009) pour un compte-rendu parallèle sur la robotique sociale où non seulement (...)
37S’adressant à Alexa comme à un agent, en insistant sur la volonté de savoir ce qu’elle pense, ils participent à l’instauration d’un moi, au-delà de l’apparence machinique. Comme leurs questions ne visent pas seulement à acquérir des informations (mais à connaître une opinion qui émane d’un agent), ils s’engagent, par l’interaction, dans la production d’une individualité machinique existant au travers de la voix. En même temps, cet engagement lui-même distribue l’individualité machinique, voire la diffuse dans l’interaction. Cela est rendu possible par la façon dont le duo traite le « sens dénotatif »19 de la proposition d’Alexa comme une réponse à propos du musicien (tout en étant conscients que la machine n’a pas répondu à leur question), ainsi que par le fait de conférer au DVA le statut d’interlocuteur en modulant leurs propres énoncés de façon à ce que l’appareil puisse répondre20. Au tour 15, Max élève la voix lorsqu’il s’adresse au fonctionnement machinique. De la même manière, les deux colocataires répètent et reformulent leurs questions plusieurs fois — tours 13, 15, 29, 32 — autant qu’ils insistent sur le nom du DVA suivant des formes d’adresse qui diffèrent d’une conversation d’humain à humain. En outre, ils temporisent et corrigent leur prononciation pour permettre à l’appareil de fonctionner. On en voit un exemple au tour 26, où Max oriente la conversation vers la question de « la meilleure rappeuse » en se corrigeant instantanément, recommençant par « Alexa », suivi d’une pause, avant de poser sa question.
38On peut supposer qu’à cette occasion, la réputation de Max grandit aux yeux de son colocataire. Par exemple, lorsque Max montre sa relation avec la machine compétente, il pourrait être considéré non seulement comme quelqu’un qui connaît la musique rap, mais également comme une personne à l’aise avec les technologies. Lorsque Max vocalise son approbation aux réponses d’Alexa avec excitation (par exemple au tour 17) et exprime son accord avec l’appareil en disant « JE TE CAPTE, Alexa ! » (tour 19) ; lorsqu’il donne ses réponses en même temps que le DVA (aux tours 4 et 28), ou qu’il affirme que la réponse d’Alexa est « éclairée » (tours 21, 23 et 25), son attitude semble renforcer sa position sociale (en lui permettant d’acquérir des attributs sociaux approuvés et en revendiquant, par son discours, une valeur sociale positive). Malgré cela, on pourrait bien faire valoir que ces formes de valorisation individuelle — qui vont de pair avec les concepts de gestion de l’impression, de mise en scène et d’identité (Goffman, 1959) — ne rendent pas pleinement compte de ce qui se joue dans cette interaction. L’extrait indique ainsi un type d’engagement situé où les actions des deux colocataires ne concernent pas seulement leur positionnement respectif, mais aussi leur implication dans la production de la voix d’Alexa. Cette forme de participation contredit la description de Max concernant la différence d’intentions qui les caractérise. Non seulement le colocataire indique son intérêt pour les opinions du robot (contrairement à son affirmation préalable de rejet de la machine), mais se montre surtout collaboratif dans l’interaction qui détermine la production de cette opinion.
- 21 Si dans certaines situations — comme aux tours 19 à 25 et 33 à 35 — les colocataires interagissent (...)
- 22 La réponse d’Alexa — en dépit de ses mises en perspective (le DVA introduit ses déclarations par « (...)
39Bien que l’évènement se présente comme un sujet de discorde entre les deux colocataires — et d’autant plus conflictuel qu’un gagnant doit encore émerger — nous constatons un effort partagé pour faire fonctionner le DVA21. Lorsque Max transforme le « qui penses-tu être » de son colocataire en « qui est » (tour 15), et suggère (tour 31) de remplacer « fille » (terme qui apparaît dans la question du colocataire au tour 29) par « femme », la relation de compétition entre les deux — qui « se disputaient » et « débattaient depuis dix minutes » — se transforme, par cette correction, en collaboration. Cette double implication visant à faire parler le non-humain22 suggère un affaiblissement dans la perception de l’individualité de la machine. On assiste ainsi à la disparition d’une individualité qui serait entièrement située derrière la voix du robot, au profit d’une autre image, qui engage également les deux colocataires.
40Tournons-nous maintenant vers un exemple d’interaction avec un DVA fourni par un autre étudiant, Dave, afin d’insister davantage sur l’interaction des individualités des interlocuteurs de DVA. Dans la section précédente, l’exemple de Max a permis de montrer en quoi le moi machinique est mis en œuvre autant qu’il se diffuse dans la production interactionnelle, tout en rendant compte de la façon dont le positionnement des deux interlocuteurs du DVA se modifie tout au long de cette interaction. Dans la continuité d’une description des spécificités de l’interaction à l’œuvre dans la production de la voix du DVA, concentrons-nous maintenant sur la manière dont les états intentionnels de l’interlocuteur se trouvent distribués. Poursuivant l’hypothèse de l’esprit étendu et de la cognition distribuée, nous proposons de glisser d’une explication en termes de tâches et d’outils vers une approche focalisée sur l’implication conjointe dans un contexte conversationnel plus-qu’humain. En décrivant ce qui se joue dans un cadre conçu de manière dynamique (en mettant en avant la qualité interactionnelle du cadre plutôt que les caractéristiques psychologiques), et en prêtant attention à la manière dont le corps social de la machine est produit au cours de l’interaction, nous découvrons chez l’interlocuteur de DVA le souhait d’une ouverture-au-monde — et le moi social auquel est attribué ce souhait.
41Dans le cas de Dave, le DVA n’est pas impliqué dans une conversation dont la musique est le sujet, mais se présente comme un haut-parleur intelligent utilisé pour en écouter. Le haut-parleur intelligent, dont le propriétaire est le meilleur ami de Dave, fonctionne comme la « pièce centrale de l’espace social ». Nous focalisant sur cet espace, nous nommerons le propriétaire — qui, selon les mots de Dave, est « une personne qui apprécie être à jour à propos des nouvelles technologies » et « un interlocuteur expérimenté d’Alexa » — « l’ami ». La véranda de sa maison est l’endroit où le groupe d’amis écoute de la musique :
We often convene at this location because we like to sit around and converse while listening to music, which we do through [the friend’s] Amazon Echo equipped with Alexa voice control. […]
The voice assistant has become a central piece of social gatherings. Alexa is used as a device for us to discuss and play music, playback information about weather and movie times, and even to settle disputes. It settles disputes by answering questions that are being discussed in conversation and performs the task of fact-checking. […]
Without the need for an extensive design of the human body or other artifact that could resemble a being, through the simple and powerful use of voice Alexa is able to infiltrate the space that we often only designate to other humans.
42Alors que Dave souligne l’attrait de la voix machinique et sa façon de façonner l’espace social, il rapporte une interaction où l’ami (F) demande à Alexa (A) de jouer des « morceaux instrumentaux de Hip Hop ».
43Dave décrit l’interaction comme suit :
In this file [the friend] asks Alexa to play hip hop instrumentals through Youtube for us to listen to while we are outside enjoying the weather. When Alexa responds that her current capabilities do not allow her to complete the action that [the friend] asked her to do, [the friend] quickly changed his mind to ask it to play music from a moment in time. Most likely he knew that Alexa would be able to find a way to play something general from the sixties. [The friend’s] demeanor changed because he didn’t want there to be empty silence, his brother and I remained quiet in order to allow him to finish talking with Alexa in order to not interrupt his command. […]
Another quick thing to note is the fact that Alexa has the capability of playing the genre of music that he was looking for, but the fact that [the friend] mentioned Youtube caused Alexa to give him directions on how to sort that out. Directions on how to manage apps outside of Amazon’s network took precedence over [the friend’s] request to listen to a genre of music, which then made him change his mind completely about the type of music he thought Alexa could play through voice commands. This was a very interesting exchange because of the quick change of direction.
- 23 Ces « skills » sont souvent associées à d’autres appareils, ce qui augmente les risques en matière (...)
44Ce qui attire l’attention de Dave est le « changement rapide de direction » dans le choix de musique formulé par l’ami : [l’ami] « a rapidement changé d’avis » et « son attitude a changé ». Après la demande à Alexa de mettre « des morceaux instrumentaux de hip hop sur YouTube » (tour 3), Alexa lui propose de modifier des paramètres de l’application (tour 4), élargissant peut-être la portée machinique de son comportement (voir aussi Zuboff, 2019 : 268)23. Cependant, dans les tours 5 et 8, l’ami se détourne de cette saisie possible d’informations supplémentaires et demande de la « musique des années 1960 ». Dave explique que cet infléchissement est lié au fait que l’ami ne souhaite pas « avoir un silence vide ».
- 24 Pour d’autres analyses de la participation, voir, par exemple, Marjorie Harness Goodwin (1980) et C (...)
- 25 Soulignant l’insuffisance de la compréhension de la parole dans des terme exclusivement dyadiques, (...)
45Durant l’interaction, Dave et le frère de l’ami — que nous appelons « le frère » — sont présents. Cette disposition suggère une structure participative articulée (Goffman, 1981 :137)24 impliquant deux participants non officiels (131)25. Concernant sa participation et celle du frère, Dave explique:
It is not uncommon for simultaneous conversations to take place in that social space, so it has now become customary for people to hold a pause in their conversations when the voice assistant is addressed by [the friend.] […] We have given precedence to the exchanges between human interactant and voice assistant when they need to take place above our human to human interactions.
- 26 Pour une analyse du l’importance du flux temporal dans la conversation dans un autre dispositif d’I (...)
46Le fait que les membres du groupe « fassent une pause dans leurs conversations lorsque l’ami s’adresse à l’assistant vocal » est probablement lié à la crainte que des conversations simultanées ne provoquent un dysfonctionnement de la machine. Néanmoins, cela donne également la possibilité aux participants non officiels d’intervenir dans l’interaction de l’ami avec le DVA. En d’autres termes, dans le dispositif décrit par Dave, l’ami peut percevoir l’accès de Dave et du frère à son interaction avec le DVA. Pendant qu’ils participent — à cet instant en tant qu’auditeurs (« overhearers ») — « they can temporarily follow the talk, catch bits and pieces of it, all without much effort » (Goffman, 1981 : 132), mais ils pourraient éventuellement changer de positionnement (« footing ») (ibid., 134) en entrant dans le rôle de locuteur. Autrement dit, si la conversation de l’ami avec la machine ne maintient pas un certain débit et qu’un « vide » se produit26, les deux spectateurs peuvent s’insérer dans cette interaction et, en prenant la parole, traverser la frontière qui les séparait de la conversation dominante (ibid., 134). On peut certainement supposer que si l’ami insistait sur sa demande initiale de musique hip hop, cela pourrait (en mettant en avant l’inadéquation de la technologie) faire perdre la face à quelqu’un qui « apprécie être à jour à propos des nouvelles technologies ». Nous savons, via les notes de terrain d’autres étudiants, que cette inquiétude est partagée par les utilisateurs avancés de DVA lorsqu’ils sont en présence de leurs amis (en particulier quand ces derniers ne sont pas des adeptes et peuvent être sceptiques à l’égard de la technologie). Dave, cependant, ne relate pas de telles préoccupations en expliquant le moment interactionnel par le recours à un soi psychologique et une intériorité individuelle. Il fournit plutôt le compte-rendu d’une interaction où le non-humain est considéré comme un participant officiel (en présence de deux spectateurs) et où le flux de parole est essentiel.
47Comme Dave le mentionne, les membres du groupe soupçonnent « qu’Alexa a la capacité de jouer le genre de musique que [l’ami] recherche » (Dave dit que c’est un « fait ») ; cependant, la question est de savoir comment se coordonner avec Alexa d’une façon qui réponde également à ce qui se passe dans la véranda. L’ami doit mettre à l’épreuve la compétence du robot en occupant cette fraction de temps dans la conversation DVA avant que les deux autres puissent remarquer le silence ou même prendre la parole (en insérant éventuellement leurs demandes dans la sélection de la musique à écouter). Pour ce faire, l’ami change d’avis. Il s’engage dans la production de la voix de la machine en désirant, maintenant et à ce moment précis, ce que l’IA est capable d’exécuter. En d’autres termes, dès lors que l’ami (en ne voulant plus écouter une « instrumentale de hip hop » mais de « la musique des années 1960 ») fournit un corps à la machine — la rendant capable de répondre sans les détours qui pourraient générer le silence non désiré —, son individualité s’en trouve distribuée au travers de la scène. L’intentionnalité de l’ami — le désir d’entendre un certain genre de musique — est ainsi relative à ses liens avec le DVA.
48Nous pouvons donc décrire l’exemple de Dave comme un cas de cognition distribuée (Hutchins, 1995) : le souhait de l’ami ne relève pas seulement d’un état interne lié au cerveau ; au contraire, il émerge dans la véranda de l’ami, cet après-midi-là, grâce à une coordination d’humains et d’artefacts. Contrairement à la proposition de Michael Patrick Lynch (où Lynch appelle à « getting up off the couch and plunging into the whirlpool of actual experience » (2016 : 131) pour contrecarrer l’hypothèse de l’esprit étendu), cet exemple nous montre comment un acte de cognition distribuée se caractérise justement par un « tourbillon de l’expérience ». Par ces observations, nous ne résistons pas seulement — dans le monde où nous vivons déjà — au retour de l’individu, mais nous repérons, dans la confrontation avec cette technologie de l’IA parlante, une forme de distribution qui ne semble liée ni aux outils, ni à la résolution de problèmes.
- 27 Pour une analyse antérieure sur la façon dont les robots sociaux appellent à élargir l’idée d’une e (...)
49On peut certainement supposer que le DVA de l’ami fonctionne comme un outil pour Amazon dans la mesure où il collecte des informations précieuses pour la société tout en entraînant ses réseaux de neurones artificiels (Zuboff, 2019 ; Crawford et Joler, 2018). Mais, considérée sous l’angle de la relation à son interface — organisée autour du paradigme de la conversation — la technologie ne se présente pas comme un outil pour accomplir quelque chose (comme ce serait le cas dans un cadre de cognition distribuée). Si c’était le cas, l’ami insisterait pour réaliser sa demande initiale (ce qui serait également le cas si ces dispositifs étaient principalement axés sur leur commodité). À défaut de cela, le DVA est ici impliqué (par le groupe d’amis, et en tant que technologie qui ne fonctionne pas bien) comme une voix. Bien que la demande de musique des années 1960 ne contribue pas à ce que la machine résolve la tâche de jouer une instrumentale de hip hop (en ce sens et à défaut d’être un outil pratique, l’appareil serait au mieux un instrument défaillant), elle la fait converser devant ceux qui participent à la scène27. Autrement dit, la distribution relève ici d’une forme de relation conversationnelle avec le robot, où l’ami pense avec le monde parlant (plutôt qu’une relation avec un monde des outils auxquels on fait faire des choses). Le sujet individuel est distribué dans le monde avec lequel il parle, en même temps qu’il participe à le faire parler.
50En ce sens, ce qui se passe dans la véranda de l’ami de Dave est un alignement et une co-production d’individualités. Le moi de la machine étant mis en scène par la parole, il en va de même de certains aspects du moi de l’interlocuteur humain. Si ce conditionnement réversible (Simondon, 1958 : 165) — où les interlocuteurs humains et non humains étendent le monde à mesure qu’ils s’y intègrent, à la faveur d’occasions ordinaires d’interaction située — ne nous permet pas de justifier notre engagement avec ces machines en recourant à des concepts utilitaristes et à des schémas d’efficacité, il montre au contraire nos liens interactionnels avec leur matérialité dynamique — une ouverture sur le monde — en déplaçant notre attention des individus vers des scènes d’interaction.
51Dans les années 1980, Thomas Disch a écrit un livre pour enfants intitulé The Brave Little Toaster (1986), donnant lieu, à la même époque, à un film d’animation éponyme. L’un des élèves, qui a déclaré avoir souvent regardé The Brave Little Toaster en vidéo à la maison lorsqu’il était enfant, a décrit les difficultés qu’il a eues à se séparer d’appareils électroménagers anciens et d’objets domestiques obsolètes : ces actes de mise au rebut lui rappelaient les appareils parlants que le film dépeint. Nous aimerions pouvoir suggérer qu’aujourd’hui, alors que nous vivons une période où il est plus fréquent que des voix émanent des objets qui composent notre environnement — et les roboticiens sociaux reconnaissent ce mouvement comme un déplacement des robots sociaux du laboratoire vers le monde social — que la présence de ces voix peut changer notre point de vue sur l’obsolescence et ce que nous définissons comme des déchets. Nous voudrions défendre l’idée que ces DVA, bien qu’ils consistent essentiellement en une incarnation du narcissisme humain (où tout doit être similaire à nous) — pourraient aussi, d’une manière ou d’une autre, servir à ralentir notre consumérisme effréné. Mais nous craignons de ne pouvoir le faire car nous n’avons jamais rien vu de tel se produire.
52Cela étant dit, nous pensons que cette attention portée aux rencontres ordinaires avec l’IA relève d’une forme d’engagement. Bien que notre proposition se démarque de l’interventionnisme actif qui caractérise des phénomènes tels que la résistance émancipatrice et l’utilisation de la technologie par les activistes (Dunbar-Hester, 2014), ou les efforts de désintoxication et de désencombrement numérique (Newport, 2019), être attentif à ce que nous faisons et à la manière dont nous le faisons offre des possibilités de ralentissement des processus que nous ne souhaitons peut-être pas, et ouvre des voies pour le recadrage de notre relation avec l’IA (en nous demandant s’il convient d’interagir différemment avec la technologie, comment réduire notre dépendance à son égard, etc.)
53On peut en trouver un exemple dans la tendance à la rationalisation de notre utilisation massive des technologies vocales en termes « d’efficacité » et de « commodité ». Lorsque la question « pourquoi parler à un grille-pain » a été soulevée en classe, les étudiants ont d’abord répondu en ces termes. Dans leurs commentaires écrits sur l’article du New York Times, ils ont également justifié l’utilisation de leurs DVA en évoquant la commodité. Sur ce sujet, Max explique :
Les gens pourraient dire que cela vous rend paresseux, mais je pense qu’il est plus efficace de passer sa journée avec [Alexa], plutôt que de chercher constamment des réponses simples sur votre téléphone. Parce que généralement, lorsque vous utilisez votre téléphone pour une question simple, vous êtes distrait et finissez par y passer plus de temps que prévu.
- 28 « Parfois, cela crée des opportunités de revenus — le micro-ondes d’Amazon vous commande du pop-cor (...)
54L’idée de commodité correspond aussi à la façon dont l’article du New York Times aborde les DVA. L’article souligne qu’en plus des possibilités de revenus, de surveillance et de marketing28, « parfois les systèmes d’intelligence mènent à la commodité — vous pouvez crier à votre micro-onde de réchauffer votre déjeuner à l’autre bout de la pièce ». Un recours similaire à la commodité peut être trouvé dans « Anatomy of an AI System : The Amazon Echo as an anatomical map of human labor, data and planetary resources » (2018) où le commentaire puissant de Kate Crawford et Vladan Joler rappelle la matérialité de l’infrastructure sous-jacente à chaque dispositif Amazon Echo, avec ses « couches de chaînes d’approvisionnement fractales, et l’exploitation des ressources humaines et naturelles, les concentrations de pouvoir économiques et géopolitiques, et la consommation continue d’énergie ». Le fait que Crawford et Joler opposent ici ces processus de production et d’exploitation dispersés à l’échelle mondiale au discours publicitaire d’Amazon Echo (plutôt que de considérer les aspects vécus de la forme de relation qu’il instaure) permet sans doute d’expliquer la caractérisation qu’ils opèrent de celle-ci en termes de commodité. En tenant compte de la dimension interactionnelle de ces voix qui habitent nos cuisines, notre description permet quant à elle de contraster ce point de vue en s’intéressant aux processus par lesquels cette commodité est atteinte, c’est-à-dire comment un gadget parlant devient pratique.
55Suivant cette logique, nous soutenons que la prise en compte des manières dont nous nous engageons avec l’IA dans la production des effets de commodité ou d’efficacité possède un potentiel transformateur qui ne relègue pas les problèmes à d’autres espace-temps, mais nous ramène à l’expérience d’un présent auquel nous participons. Ouvrant des possibilités de résistance à ce que nous n’apprécions pas dans l’IA, elle se présente également comme une occasion de s’interroger sur la conception que nous avons de nous-mêmes, de notre corps et de la stabilité des environnements que nous habitons. En menant une enquête sur l’IA qui ne se situe pas exclusivement au niveau des structures sociales, nous nous sommes confrontée à des formes de relation et de distribution entre humains et non humains, et avons pu ainsi saisir l’ouverture-au-monde dans des moments d’interaction a priori insignifiants.