- 1 Valérie Beaudouin et Julia Velkovska, « Enquêter sur l’« éthique de l’IA » », Réseaux, 4, 240, 2023 (...)
- 2 Ibid, pp. 9-27.
- 3 Anne Bellon et Julia Velkovska, « L’intelligence artificielle dans l’espace public : du domaine sci (...)
- 4 Ibid., p. 44.
1Les années 2010 coïncident avec l’essor sans précédent de l’Intelligence Artificielle (IA) : l’amélioration de la puissance des outils techniques et le développement d’Internet et des réseaux sociaux ont favorisé des avancées en matière de machine learning (ou apprentissage automatique de la machine) puis de deep learning. La décennie a ainsi donné naissance à divers outils algorithmiques tels que les agents conversationnels, la reconnaissance faciale ou encore la génération automatique de textes et d’images, qui interviennent dans différentes sphères de la vie sociale1. Comme le soulignent Valérie Beaudouin et Julia Velkovska dans l’introduction d’un numéro de la revue Réseaux consacré à l’éthique de l’IA2, de tels progrès se sont accompagnés de questionnements relatifs aux risques liés aux usages de ces outils. Ainsi depuis 2010, l’IA et ses controverses occupent une place croissante dans l’espace public français, débordant des arènes scientifiques : Anne Bellon et Julia Velkovska observent notamment un emballement de la presse généraliste pour ces sujets depuis 20153. Se faisant le relais de discours issus des espaces scientifiques, économiques et politiques, les arènes médiatiques participent à la publicisation des préoccupations liées à l’IA (polarisées entres « promesses économiques et craintes éthiques4 ») et sa constitution en problème public.
- 5 Ibid., p. 47.
- 6 Jean-Pierre Esquenazi, « Quand un produit culturel industriel est-il une « œuvre politique » ? », R (...)
- 7 Joseph Guesfield, La culture des problèmes publics. L’alcool au volant : la production d’un ordre s (...)
- 8 Frédéric Claisse et Pierre Delvenne, « Building on anticipation: Dystopia as empowerment », Current (...)
- 9 Daniel Cefaï, « La construction des problèmes publics. Définitions de situations dans des arènes pu (...)
- 10 Marine Malet, Inquiétudes contemporaines et futurs menaçants dans les séries dystopiques : vers la (...)
2Les autrices soulignent également que, pour sortir d’un traitement expert et afin de toucher un plus large public, les journalistes puisent « dans les références populaires de la science-fiction, pour élaborer une mise en intrigue qui dramatise l’IA en exagérant à la fois ses capacités et les risques potentiels associés5 ». Ce sont les représentations fictionnelles de ces risques que propose d’interroger cet article, en se concentrant sur les représentations dystopiques de l’IA ainsi que leur « rôle politique6 », celles-ci étant désormais régulièrement mobilisées dans des contextes socio-politiques et non plus simplement culturels. La dystopie est un genre fictionnel particulièrement fécond pour répondre à ce programme. En extrapolant leurs conséquences dans une vision pessimiste du futur, elle identifie et critique certains versants de nos sociétés, certaines orientations problématiques et dignes de préoccupations. Les représentations dystopiques contribuent ainsi à la « dramaturgie des problèmes publics7 » : en mettant en fiction les préjudices que nos sociétés – ou certains groupes d’individus – pourraient subir dans l’avenir « si on continue comme ça8 », elles « nomment et narrent9 » un problème par le biais d’un récit fictionnel, participant ainsi à sa construction et à son cadrage10.
- 11 Cette affirmation s’appuie sur l’étude de la médiatisation des séries dystopiques entre le 1er janv (...)
- 12 Nancy Murzilli, Changer la vie par nos fictions ordinaires, Paris, Premier Parallèle, 2023.
3Cet article se concentre plus particulièrement sur la représentation fictionnelle de l’IA dans la série dystopique Black Mirror (Channel 4, 2011–2014 ; Netflix, 2016–en cours), qui fait partie des fictions utilisées comme références culturelles communes, notamment dans la presse française, pour évoquer et interpréter l’actualité des nouvelles technologies – notamment de l’IA - et des risques associés11. Il s’agira d’interroger la manière dont l’IA est représentée, ainsi que les usages dystopiques qui lui sont associés et leurs conséquences imaginées. Quels sont les enjeux éthiques, sociaux et moraux de l’IA, mis en exergue par la dystopie ? Mais surtout, ces représentations dystopiques de l’IA ont-elles une portée réflexive ? Autrement dit, permettent-elles d’être utilisées comme point de départ pour nourrir chez les téléspectateurs une réflexion critique sur les enjeux éthiques des applications actuelles de l’IA ou, plus généralement, sur les industries du numérique ? Ou au contraire, sont-elles perçues comme de simples représentations futuristes et alarmistes de l’IA ? La philosophe Nancy Murzilli explique que la fiction est susceptible d’avoir un « pouvoir d’action sur le réel12 » : selon elle, nos fictions disposent d’une forte puissance politique car, lorsqu’elles sont saisies, partagées et discutées, elles favorisent la capacité d’agir sur la réalité à travers elle. C’est précisément la discussion autour de la fiction que je souhaite interroger ici.
- 13 Charlotte Brundson et David Morley, Everyday Television: Nationwide, London, British Film Institute (...)
- 14 Celle-ci demeure ici assumée, car elle permet malgré tout d’interroger les logiques de production d (...)
4Afin de répondre à ces questionnements, ce travail s’inscrit dans le champ des television studies et s’inspire des travaux de Charlotte Brundson et David Morley13. Il articule l’analyse de la représentation de l’IA dans un épisode de la série à l’étude de la réception de celui-ci, et plus précisément des conversations suscitées. La méthode de l’entretien collectif in situ a donc été retenue, permettant aux enquêtés de visionner un épisode et d’y réagir, de sorte à encadrer le fil de la discussion et de s’approcher des conversations susceptibles d’advenir dans la vie quotidienne. Les groupes constitués sont dits « naturels » : les enquêtés volontaires, avec qui un entretien semi-directif avait préalablement été mené, ont invité à leur domicile une ou deux personnes de leur entourage (conjoint, colocataire, ami etc.) avec qui ils ont l’habitude de visionner ou de discuter des séries. Cette interconnaissance et ce mode de recrutement ont permis de naturaliser le processus de prise de parole et d’alléger l’artificialité14 de la situation d’entretien, puisque s’agissant de personnes ayant pour habitude d’échanger entre eux sur les séries, voire de les visionner ensemble.
- 15 Pierre Langlais et François-Xavier Richard, « ‘Le monde nous met les sujets de Black Mirror sous le (...)
- 16 Michel Puech, « Black Mirror ou l’ambiguïté du pire », The Conversation, 28 juin 2017. Accès : http (...)
- 17 Cette série d’entretiens a été menée dans la cadre de ma thèse de doctorat, entre 2019 et 2021. Ell (...)
5L’épisode retenu pour l’analyse est « Be right back » (S02E01), diffusé en 2013 et réalisé par Owen Harris, où l’IA sert le fantasme transhumaniste d’une immortalité numérique. La technologie mise en récit est connue aujourd’hui sous l’appellation de « memorial bot », soit une IA chargée de reproduire les réactions et comportements d’une personne décédée afin que ses proches puissent continuer à interagir avec elle après sa mort. Plusieurs raisons ont guidé ce choix : d’une part, dans une interview donnée en 2019 au journal Télérama15, le créateur de la série Charlie Brooker évoquait l’épisode comme mettant en récit l’une des technologies susceptibles de voir le jour le plus rapidement dans la réalité. En effet, il ne joue que sur un « léger décalage futurologique16 ». Ensuite, lors des entretiens semi-directifs17, « Be Right Back » fait partie des épisodes cités comme « les plus marquants » de la série par les enquêtés. Ces deux éléments permettent donc d’interroger la représentation dystopique de l’IA dans un futur proche, et les enjeux éthiques associés et identifiés par les téléspectateurs.
6La première partie de l’article sera dédiée à l’analyse de la mise en récit de l’IA et à sa représentation dans l’épisode. Puis, à partir des entretiens réalisés, la deuxième partie reviendra sur les risques associés à un tel usage de l’IA, identifiés par les enquêtés. Enfin, la dernière partie interrogera les parallèles établis entre la fiction et la réalité et la manière dont la discussion de l’épisode peut conduire à des réflexions sur les enjeux éthiques de l’IA.
- 18 Zeppotron est une société de production britannique fondée en 2000 par Charlie Brooker. Elle est ég (...)
7Black Mirror est une série télévisée britannique dont les deux premières saisons ont été produites par la société Zeppotron18 et diffusées par Channel 4 de 2011 à 2014, et qui a ensuite été rachetée par Netflix en 2015. Créée par Charlie Brooker et Annabel Jones, elle se compose actuellement de six saisons, d’un film de Noël et d’un épisode interactif. Cette anthologie explore dans chaque épisode auto-conclusif la façon dont l’usage d’une technologie – plus ou moins fictionnelle – peut entraîner une dérive, qui prend la forme de ce que j’appelle « une spirale du pire » entraînant l’aliénation des personnages principaux, malgré leurs résistances.
- 19 Hervé Glevarec, « Trouble dans la fiction. Effets de réel dans les séries télévisées contemporaines (...)
- 20 Emmanuelle Caccamo, Imaginer les technologies de "mémoire totale" avec la science-fiction audiovisu (...)
8Dans le cas de l’épisode « Be Right Back » retenu pour l’analyse, l’univers fictionnel de l’épisode est marqué par une forme de réalisme, entendue comme « un rapport de correspondance de la représentation avec le réel19 » : qu’il s’agisse des décors, des personnages ou des costumes, le décalage futurologique est léger. Loin de l’exubérance technologique propre au cyberpunk, l’univers fictionnel mise sur une certaine sobriété et s’inscrit dans le postcyberpunk, qu’Emmanuelle Caccamo définit comme la mise en scène d’un futur proche où l’hyper-utilisation des technologies est devenue la norme20. L’intrigue pourrait quant à elle se résumer ainsi : un jeune couple, Marta (Hayley Atwell) et Ash (Domhall Gleeson), emménage dans une maison familiale de la campagne anglaise. Le lendemain du déménagement, Ash décède dans un accident de voiture. Traversant un processus de deuil douloureux, Marta se voit proposer par une amie un service encore en phase bêta de « memorial bot », qu’elle rejette d’abord. C’est en apprenant sa grossesse peu de temps après le décès de son compagnon, dans une scène mettant en lumière sa solitude et sa détresse, qu’elle se décide à utiliser le service. Ce dernier repose sur le principe suivant : à partir de la réactivation de toutes les traces numériques laissées en ligne par Ash, une intelligence artificielle pourra modéliser, mimer, prédire et reproduire les réactions d’Ash.
9Simuler, là est tout l’enjeu de la technologie imaginée dans l’épisode « Be right back » : l’IA a pour mission de mimer les réactions et les comportements des défunts à partir de données qui lui sont transmises afin de pouvoir entretenir et nourrir un dialogue avec leurs proches. Pour ce faire, les scénaristes ont imaginé la conjugaison de deux technologies déjà existantes et couramment utilisées : l’agent conversationnel – ou chatbot – capable de simuler des conversations humaines et le machine learning, capable d’utiliser des données pour identifier des patterns, les modéliser, prédire et reproduire. Conjuguées, ces deux technologies permettent à l’IA – qui deviendra un personnage à part entière dans l’épisode et que j’appellerai ici par commodité IAsh – d’entretenir des conversations avec Marta en lui donnant l’impression d’échanger avec son compagnon défunt. Ce mimétisme repose sur l’accès aux données et leur traitement : plus le logiciel dispose d’un nombre important de traces numériques, plus l’IA se perfectionne.
10Le personnage de Marta est d’abord très réticent et insiste sur le caractère « malsain » de ce type d’application dont elle découvre l’existence par son amie Sarah et que l’on suppose encore à la marge, puisqu’en phase bêta. Lorsqu’elle apprend qu’elle est enceinte de son compagnon décédé, Marta appelle d’abord sa sœur pour lui faire part de sa détresse [13 :44]. En l’absence de réponse, on peut supposer qu’elle pallie sa solitude et l’absence d’interactions humaines en souscrivant au service proposé et en entrant en contact avec IAsh [14 :30].
11La première étape du dialogue IA/humain au cœur de l’épisode prend la forme d’un échange via une messagerie instantanée : IAsh n’a alors à disposition que les tweets, statuts Facebook et autres données publiques mises en ligne par Ash lui-même.
Fig. 1. Captures d'écran des deux premières phases de la matérisation de l'IA dans l’épisode « Be Right Back » de Black Mirror – ©Netflix.
12La deuxième étape intervient très rapidement dans la suite de l’épisode [18 :08], moins de quatre minutes après l’activation d’IAsh. Après avoir partagé avec l’IA toutes les données numériques d’Ash en sa possession, soit des vidéos et photos qui n’avaient pas été publiées en ligne par Ash, Marta active la deuxième phase d’évolution d’IAsh. Elle peut désormais échanger par téléphone : à l’aide de vidéos et d’enregistrements vocaux, la machine est désormais capable de reproduire le timbre de voix, l’intonation et les habitudes langagières d’Ash, tout en prédisant et imitant ses réponses. L’ajout de l’élément personnifiant qu’est la voix, désincarnée, marque le basculement du personnage dans un rapport de confusion « humain/machine », entraînant une forte dépendance à la technologie.
13C’est au cours de cette étape que l’isolement de Marta atteint son paroxysme, dans un dialogue téléphonique ininterrompu avec IAsh, avec qui elle partage des souvenirs, des promenades, ou encore sa première échographie. Tant de nouvelles données que l’IA (et donc l’entreprise qui propose ce service) stocke dans un cloud, en témoigne la scène qui suit celle de la maternité où Marta fond en larmes lorsqu’elle casse son téléphone et « perd » IAsh. Dès qu’elle rentre chez elle et met en charge un nouveau téléphone, IAsh la rappelle et lui repartage l’enregistrement de l’échographie, avant de lui proposer de souscrire à l’équivalent d’un service prenium [23 :50]. Cette scène, qui marque le passage à la dernière étape de la matérialisation d’IAsh, est la seule de l’épisode à rappeler – discrètement – les conditions de production de la technologie et les enjeux économiques par lesquels celle-ci demeure régie.
14La dernière étape correspond à l’articulation de l’IA à une troisième technologie : une chair synthétique intelligente qui va permettre l’anthropomorphisation de l’IA. Avant activation, cette chair équivaut à une enveloppe charnelle vierge en position fœtale qu’il faudra placer dans un bain avec des électrodes – que l’on peut associer au liquide amniotique.
Fig. 2. Capture d’écran de la représentation de l'anthropomorphisation de l'IA dans « Be Right Back » – ©Netflix.
- 21 Sous-titres français : « Je ne peux pas aller à plus de 25 mètres de mon point d’activation ».
- 22 Sous-titres français : « Mon administrateur ».
- 23 Sous-titres français : « C’est une phrase très difficile à analyser ».
15Opérant dans la seconde moitié de l’épisode, la résurrection numérique d’Ash est représentée par l’entrée de l’IA dans la reproduction synthétique du corps d’Ash, nu. Cette chair intelligente permet d’intégrer de nouvelles données et d’améliorer la représentation physique d’Ash, par exemple avec l’adoption d’habitudes (fermer les yeux lorsqu’il simule le sommeil) ou l’ajout de détails physiques. Chaque nouvelle donnée est stockée par le système et apparaît physiquement sur ce corps intelligent, par exemple un grain de beauté. Paradoxalement, c’est lors de la troisième étape que l’on observe le recours au champ lexical de la machine par IAsh, contribuant à renforcer cette mise à distance entre humain et machine : « I can’t go more than 25 meters from my activation point21 » [42 :33], « my administrator22 » [42 :52], « that’s a very difficult sentence to process23 » [44 :56]. Cette rhétorique permet de rappeler que la machine est régie par un dispositif et programmée par l’humain, n’agissant qu’en fonction du besoin auquel elle répond et ce pourquoi elle a été programmée.
- 24 Jean Baudrillard, Simulacres et simulation, Paris, Éditions Galilée, 1981.
16L’épisode explore ainsi le concept d’hyperréalité24 théorisé par Jean Baudrillard : le système d’IA stocke les données numériques d’une personne après sa mort afin d’en reproduire une simulation. La confusion entre le réel et l’illusion créée par la technologie constitue l’un des éléments centraux de l’épisode. L’IA s’exprime au nom d’Ash à la première personne du singulier et le personnage de Marta s’investit progressivement dans la proposition de croyance offerte par la technologie. D’abord réticente à l’égard d’une telle utilisation de la technologie, Marta devient de plus en plus dépendante de cette dernière au fil de l’épisode, poussant toujours plus loin la reproduction d’une réalité qui n’a finalement jamais existé. Ce n’est qu’à la fin de l’épisode que l’illusion se dissipe, lorsqu’elle reproche à l’androïde de ne « pas être assez lui [Ash] » [41 :15], de ne finalement pas être assez réel.
17Développée en trois étapes, les représentations de l’IA dans cet épisode s’accompagnent d’une évolution de l’usage et du rapport à la technologie par le personnage de Marta. La résurrection numérique d’Ash dans un corps synthétique humanoïde inaugure le développement d’un rejet progressif de la part de Marta. Si l’on pouvait s’attendre à ce que la matière achève le processus de remplacement de l’homme par la machine, il en est tout autrement. En effet, le passage de l’IA au stade d’androïde coïncide avec l’apparition des limites de l’imitation humaine, comme l’ont souligné les enquêtés au cours des entretiens.
- 25 Denise Jodelet, « Dynamiques sociales et formes de la peur », Nouvelle revue de psychologie, 2, 12, (...)
18Deux thématiques centrales, distinctes mais interconnectées, ont été identifiées par les enquêtés suite au visionnage de l’épisode. La première concerne le deuil d’un être cher et l’utilisation de l’IA pour pallier la souffrance liée à la perte, identifiée unanimement comme centrale dans l’épisode. Les motifs de la mort et du deuil correspondent à des angoisses existentielles, des peurs totales « enracinées dans des structures anthropologiques ou imaginaires universels25 ». Ils sont interprétés par les enquêtés comme une manière pour les créateurs de la série d’universaliser le propos en favorisant l’identification de toutes et tous, comme le souligne Nathan :
« Oui, et puis là ça touche quand même un truc qui perturbe l’être humain depuis toujours quoi, la mort, comment on la repousse, est-ce qu’on est faillible à ce point… on a beau créer toutes sortes de choses, aller sur la Lune et tout, on continue quand même à mourir quoi. Et c’est un truc qui fait peur à tout le monde ! » (Nathan, 33 ans, responsable administration des ventes)
- 26 Yannick Rumpala, Hors des décombres du monde. Écologie, science-fiction et éthique du futur, Ceyzér (...)
19L’épisode entraîne également une discussion autour des frontières ontologiques entre l’humain et le « non-humain », l’IA. Frontières qui ne semblent pas définitivement acquises26, tant les réactions humaines peuvent être reproduites de manière artificielle. Les limites de l’IA sont cependant immédiatement identifiées par toutes et tous : la conversation autour de cette thématique a permis d’interroger ce qui fait la spécificité de l’être humain, que la machine ne serait pas capable de reproduire : la reproduction de « l’odeur » (Guillaume, 27 ans, assistant caméra), de « l’imprévisibilité » (Manon, 28 ans, graphiste) ou encore de « l’irrationalité des émotions » (Baptiste, 29 ans, responsable produits - téléphonie) sont transversales aux cinq entretiens. Ainsi, la promesse d’une résurrection numérique, par la substitution de l’IA à l’Homme, demeurerait vouée à l’échec. Cependant, ce sont bien les limites de la technologie montrée dans l’épisode qui rendent celle-ci réaliste et plausible aux yeux des enquêtés et engendre des formes de projections et de réflexions favorisant l’expérience de pensée sous la forme du « et si ? » :
L’effectivité de la technologie, c’est-à-dire qu’elle est quand même un peu foireuse, ça ne me paraît pas absurde non plus parce que c’est aussi ce côté foireux qui fait que ça te paraît possible. Finalement, si ça allait trop loin dans la reproduction fidèle de la personne, ce ne serait pas réaliste. Là, ce qui fait que c’est un peu réaliste, c’est qu’on s’arrête à des choses qui sont actuelles sur les données des réseaux sociaux, ce que tu publies etc. et donc sur quelque chose qui te semble faisable. (Guillaume)
- 27 Dominique Cardon, « Le design de la visibilité. Un essai de cartographie du web 2.0 », Réseaux, 6, (...)
20Cet enquêté, familier de Black Mirror, propose également de penser cet épisode en complémentarité avec d’autres épisodes de la série : la technologie de la mémoire-totale mise en récit dans le précédent, « The Entire History of You » (S01E03), permettrait selon lui de réduire les limites du memorial-bot. En effet, la limite principale résiderait dans le manque de données à disposition de l’IA pour reproduire fidèlement la personne qu’était Ash. En ce sens, les réflexions des enquêtés renvoient à la question de nos identités numériques et corroborent l’idée d’une exposition contrôlée de soi en ligne27, en s’appuyant sur leurs propres pratiques :
Ouais mais non vraiment, moi j’arriverais pas… que ce soit un proche ou quoi, je ne vois pas vraiment l’intérêt… […] La machine elle ne va pas… bah comme elle lui dit quand il débarque, « t’as sa tête des beaux jours ! », parce que oui en général, les photos que tu gardes et que tu postes bah t’es beau gosse dessus. Donc il n’a jamais ce truc où il a des défauts, c’est que du lisse. Parce que sur les réseaux tu vas pas dire que t’as une vie de merde, tes états d’âmes et tout… je vois pas trop l’intérêt du truc, forcément t’échanges qu’avec un seul aspect de la personne, et pas forcément le plus attachant. (Thomas, 30 ans, cuisinier)
21Selon eux, le contenu posté en ligne sur les réseaux sociaux ne représente pas la personne que nous sommes : il s’agit d’une facette de notre personnalité, pensée et construite pour être partagée en ligne, publiquement. Thomas souligne l’idée que ce contenu « lisse » et « sans aspérité » participe à se valoriser aux yeux du monde. Ces échanges renvoient à la notion « d’apparences numériques » proposée par François Pellegrini et qui varieraient selon notre environnement : l’agrégation de toutes ces apparences formeraient la somme de notre identité numérique. Une telle agrégation permettrait d’échanger non plus avec « un seul aspect de la personne » pour reprendre les termes de Thomas, mais plusieurs : elle ne demeure cependant que la somme des représentations que chaque individu a donné à voir de lui dans divers environnements numériques. Ainsi, une telle utilisation de l’IA apparaît comme limitée, puisqu’elle implique la réactivation de données qui ont été pensées pour être publiques, donnant à voir l’individu sous un certain angle – le plus souvent flatteur. Cette limite s’incarne physiquement, comme l’ont noté les téléspectateurs, à travers les traits de l’androïde.
22Par ailleurs, la perspective d’user de l’IA pour repousser la mort est unanimement interprétée comme un trouble bouleversant ce qui constituerait, selon les enquêtés, l’essence de la nature humaine et du rapport à soi, à l’autre et au temps :
Elle [Marta] ne peut pas avoir peur qu’il lui arrive quelque chose, parce que ce n’est pas un humain, il ne saigne pas ni rien. […] Quand je dis que la vie n’a plus d’importance dans ce cas, bah c’est que… au-delà de ça tu n’as plus ce truc de te dire que la vie c’est une fois, c’est important, c’est précieux… ! (Manon, 28 ans, graphiste)
23Ainsi, au cours du visionnage, certains enquêtés – et plus particulièrement deux d’entre eux qui n’avaient jamais vu cet épisode – ont laissé échapper diverses exclamations, rires gênés ou commentaires témoignant de leur surprise, malaise et/ou désapprobation à mesure de l’utilisation de l’IA par le personnage de Marta : « non mais quelle angoisse ! » (Thomas, 30 ans, cuisinier), « mais non ! oh my god… c’est flippant » (Mila, 29 ans, chargée de marketing – téléphonie). Les premières minutes de chaque discussion confirment ce rejet vis-à-vis de la technologie mise en fiction d’une part, ainsi que des jugements négatifs sur le personnage de Marta qui y souscrit et de l’utilisation qu’elle en fait d’autre part. Les jugements et opinions sur un tel usage de l’IA sont effectivement tranchés pendant le visionnage et dans les premières minutes qui suivent l’échange ; ceux-ci vont néanmoins s’adoucir au fil de la discussion qui va permettre aux enquêtés une prise de distance et une réflexivité sur des usages et pratiques déjà existants.
- 28 Charlotte Dolez, « Le sens de l’actu. Une analyse des interprétations de l’information à partir d’e (...)
- 29 Lucile Coquelin, Mythologies du technocorps dans la série Black Mirror (Channel 4 ; Netflix). De la (...)
24L’analyse des entretiens ne révèle par ailleurs aucune lecture différenciée genrée, malgré la présence d’éléments narratifs relatifs au genre dans l’épisode, les plus significatifs étant un personnage principal féminin se retrouvant brutalement veuve et la révélation de sa grossesse en pleine période de deuil. En amont des entretiens, je faisais l’hypothèse que ces éléments narratifs seraient susceptibles d’engendrer une identification et/ou un sentiment d’empathie plus forts chez les enquêtées. Les résultats invalident cette hypothèse, puisqu’un tel usage de l’IA est majoritairement rejeté par les enquêtés, quel que soit leur genre. Si des identifications apparaissent, elles sont négociées à partir de technologies et d’usages déjà existants, et dépendent de l’expérience personnelle de chacun du deuil d’une part, mais également d’une posture critique quant à leur propre rapport aux nouvelles technologies. Comme le mettait en évidence Charlotte Dolez à propos de la réception d’informations politiques, « la construction des “eux” et des “je/nous” structure l’interprétation28 » : on observe une structure similaires dans les réceptions de l’épisode. À propos des interprétations de Black Mirror, Lucile Coquelin a montré que les enquêtés reconnaissent « des traits d’aliénation par les technologies29 » sans y associer leurs propres expériences numériques mais plutôt celles des autres, « des gens ». Cela se vérifie également dans les entretiens, mais la discussion et la confrontation d’opinions favorisent l’évolution et la nuance de ces postures, ainsi que l’adoption d’une réflexivité renforcée :
- Guillaume : Je me suis quand même identifié, même si je trouve ça horrible comme principe mais… ouais, je pense que pour pleins de choses on peut se faire un peu avoir. […] Et c’est là où ça ne me paraît pas du tout absurde en fait d’être aliéné par une situation, d’autant plus que là ça implique des sentiments… […]
- Nathan : […] Mais je pense que si ça devait exister, plein de gens y iraient ! […] Après tout le monde ne le fera sans doute pas, mais je pense que les barrières peuvent vite sauter.
- Guillaume : Ouais mais les tiennes aussi ! C’est là où je pense qu’il y a un truc de… […] tu disais que beaucoup de gens pourraient le faire mais que toi non, mais je ne pense pas qu’on puisse être aussi catégorique.
- Nathan : Non je te dis là, maintenant si tu me le proposes non. Mais je te dis qu’après, si ça arrive, les barrières peuvent vite sauter.
25S’ils se positionnent d’abord comme réfractaires, les enquêtés admettent finalement au fur et à mesure de la discussion pouvoir comprendre le « besoin de dire au revoir […] pendant un temps donné » (Mathilde, 26 ans, cheffe de projet réseaux sociaux) et le recours à un tel usage de l’IA lorsque celle-ci demeure une messagerie écrite. L’ajout de la voix puis de la chair intelligente sont identifiés comme les éléments favorisant la dépendance d’une part, et suggérant d’autre part la sortie d’une logique d’aide au deuil pour tendre vers celle où la machine est substituée à personne défunte. Les enquêtés travaillant dans le domaine des technologies ont d’ailleurs eu tendance, davantage que les autres, à identifier l’enjeu économique présidant à la création de nouveaux besoins dans une perspective de rentabilité :
Ce qui est dérangeant c’est que là c’est clairement du business autour de la mort. Qui fonctionne très bien mais bon, on pourrait se limiter au business de cercueil hein ! Mais non, faut qu’ils aillent plus loin encore. […] Et ça n’a rien de nécessaire. Ce n’est pas vital. Il y a des gens qui meurent tous les jours et on y survit. Et l’intention derrière c’est clairement du marketing et du business et ça oui, ça me dérange. (Mathilde, 26 ans, cheffe de projet réseaux sociaux)
26La dépendance à la technologie est d’ailleurs analysée comme relevant d’une construction extérieure au personnage de Marta et imputée à des acteurs économiques. Si, en première réaction à l’épisode, ce personnage a pu être qualifiée de « folle », un processus de conscientisation des enjeux de pouvoir s’opère au fil de la conversation. La réception démontre également le rôle de l’expérience dans ce processus de conscientisation. Les enquêtés rapprochent ainsi l’aliénation « subie » par Marta, du fait de techniques de captation de l’attention mises en œuvre par des acteurs économiques pour leur propre profit, de leur expérience personnelle avec les nouvelles technologies et plus particulièrement les réseaux sociaux. Facebook et Instagram plus particulièrement ont été cités à plusieurs reprises, ainsi que des techniques de maintien de l’attention comme la publicité ou les notifications ciblées.
27Pour autant, le fait que la série Black Mirror soit diffusée sur Netflix n’a pas été évoqué au cours de la discussion, quand la plateforme de streaming mobilise des ressorts similaires pour capter l’attention des utilisateurs. Néanmoins, les passages de l’épisode traduisant les logiques économiques régissant l’IA (tels que le moment où IAsh propose à Marta un service premium et onéreux [23 :50]) introduisent dans la discussion des questionnements sur des notions ayant trait à la commercialisation des données ainsi qu’au droit et au consentement, conférant un rôle politique à l’épisode. Les lectures de l’épisode par les enquêtés renvoient à l’idée d’une aliénation du personnage de Marta, tout en admettant dans le même temps leur propre aliénation aux technologies. Selon eux, certains usages seraient développés par les entreprises du numériques et plus largement par les acteurs du capitalisme non pour satisfaire de réels besoins, mais plutôt pour repousser sans cesse les limites du progrès et créer de nouveaux besoins à des fins mercantiles. Ainsi, l’épisode a rapidement conduit à questionner la réalité, et notamment certains enjeux de nature éthique quant à la question de la vie privée et des données personnelles, témoignant de craintes, corrélées chez certains enquêtés à une défiance vis-à-vis des acteurs économiques et politiques.
28Un autre élément observé lors des entretiens collectif concerne une attention particulière portée à l’utilisation et au stockage des donnée personnelles, notamment dans un contexte post-mortem et réactivées par le biais d’une IA. D’une part, certains enquêtés comme Mathilde adoptent une lecture référentielle, jugeant que l’envoi de documents privés par Marta à l’IA relèverait d’une forme de « trahison » ou d’un « manque de respect » :
On ne sait même pas ce qu’elles deviennent ces données-là, mais vu qu’elle paye je vois pas bien ce qu’en feraient les entreprises… mais quand je parlais de souiller la mémoire, c’est aussi dans le sens où tous nos souvenirs, toutes nos données, et bah je les donne à une machine, au lieu de le préserver précieusement dans mon cœur et de faire mon deuil, j’envoie tout à une machine. (…) C’est des choses qu’il n’avait même pas posté, c’est pas ce qu’il a choisi de communiquer lui, c’était entre lui et elle quoi. Et du coup là oui, il y a un problème éthique personnel… Mais à la limite, pourquoi pas. (Mathilde, 26 ans, cheffe de projet réseaux sociaux)
29La scène de Marta envoyant toutes les données privées relatives à Ash en sa possession telles que des photos et vidéos de vacances à l’IA a été particulièrement commenté, et pose selon les enquêtés la question de la confidentialité et du consentement relatifs aux « memorial bots ». En effet, Ash n’ayant pas fait le choix de transférer en ligne certains contenus privés d’une part, ni de transmettre à une entreprise privée ses données publiques afin que celles-ci soient agrégées dans une IA d’autre part, ces éléments du récit permettent de soulever la question du consentement quant à l’usage des données personnelles par les proches mais également celle du devenir des données publiques.
30Le stockage et la réactivation des données sont ainsi identifiés au fil de la discussion par les enquêtés comme un autre enjeu central dans l’épisode. La discussion autour de cette thématique permet d’ailleurs d’interroger l’état actuel des choses et de révéler des carences informationnelles quant aux logiques économiques et politiques qui régissent le stockage et l’utilisation de nos données personnelles, même chez les personnes travaillant dans le domaine des technologies et présentant une bonne connaissance de ce domaine. De même, la discussion permet d’éveiller les consciences en suscitant chez les enquêtés des formes de réactivité et le partage de connaissances. La dystopie de Black Mirror permet de rendre tangible, pour les enquêtés, un scénario potentiel du devenir des données numériques, les poussant ainsi à des formes de réflexivité et de réactions comme en témoigne l’échange entre Kevin et Baptiste à propos de la politique de confidentialité et du traitement des données par Facebook :
- Baptiste : par contre y a quelque chose où… j’espère que ça ne se passerait pas ici… quoi que tu me diras… mais il dit que la boîte, l’IA apprend de tout ce qui est dans le domaine public etc. Euh… sauf que… un Facebook, un Google tout ça, ça reste des entreprises privées donc normalement elles sont censées dans une certaine mesure, garantir la sécurité de tes données…
- Mila : bah non, elles font déjà du commerce avec tes données.
- Baptiste : Ouais… donc non en fait. J’avais pas envisagé que ça puisse donner ça…
- Kevin : ouais et après tes tweets sont publics, ton Facebook peut être public…
Baptiste : ouais c’est ça…
- Mila : après c’est comment toi tu as configuré ton profil… là il [Ash] est actif et très axé réseaux.
- Kevin : mais d’ailleurs Facebook a mis en place un truc comme ça, où tu peux ajouter des personnes référentes qui peuvent accéder à ton compte et décider de ce qu’on fait de tes données une fois que tu meurs.
- Baptiste : ah ouais ? C’est super glauque par contre (rires) mais j’avoue j’irai voir
- 30 Yannick Rumpala, « Que faire face à l’apocalypse ? Sur les représentations et les ressources de la (...)
31Ici, l’échange autour de l’épisode suscite chez Baptiste une interrogation quant au devenir de ses propres données, dans un contexte auquel il n’avait pas réfléchi au préalable. La conversation, à partir de la dystopie, entraîne une réflexion collective et l’apport par Kevin, qui travaille dans le domaine de la cybersécurité, d’informations nouvelles pour Baptiste. En cela, un tel échange incarne la capacité de la dystopie à « amorcer une logique de précaution30 ». Une enquêtée adopte également une lecture politique de la question, soulignant d’une part le fait que l’« on ne se rend[e] pas compte de toutes les données stockées » (Victoire, 26 ans, chargée de communication), et d’autre part de l’opacité associée au stockage, à l’accès et au traitement de ses données personnelles ainsi que les risques – présents et futurs – potentiels.
32Enfin, la dimension économique qui sous-tend à l’IA est également notée ici par Mathilde :
Mais pour moi, dans un monde idéal, l’IA devrait servir à faciliter le travail de l’homme, les travaux difficiles et qui peuvent être automatisés et servir à la recherche pour le bien de l’humanité. Mais ça encore une fois c’est dans un monde idéal. Parce qu’en fait, ces choses-là de transfert de conscience, si t’en as envie bah vas-y, transfère ta conscience. Mais on sait tous que ça va servir à une petite partie… en fait c’est ça, c’est des choses qui peuvent que venir encore creuser des inégalités. On parle même pas du fait que ce soit bien ou pas bien. Juste, c’est qu’encore une fois, c’est un produit comme les autres. (Mathilde, 26 ans, cheffe de projet réseaux sociaux)
33Cet extrait montre une lecture de l’épisode à travers le prisme des inégalités sociales : si cette thématique n’est pas directement abordée dans l’épisode, Mathilde y associe la représentation d’une IA onéreuse et susceptible de bouleverser le rapport de nos sociétés à la vie et à la mort. Le fait que les IA soient développées par des entreprises privées accentuerait finalement les inégalités, comme c’est déjà le cas aujourd’hui selon elle. Une solution est proposée, celle du progrès technique au service du bien collectif : cet « idéal » de l’usage de la technique est mis en perspective avec la première séquence de l’épisode. Mathilde est la seule enquêtée à avoir noté ce détail : l’artefact technique qu’est la chair synthétique intelligente permettant de donner une corporalité à IAsh est d’abord présenté à la radio comme une avancée dans le domaine de la recherche médicale devant permettre aux personnes amputées du pied de remarcher [00 : 53] :
Fig.3. Captures d'écran de la scène d'ouverture de « Be Right Back », évoquant l’utilisation de la chair intelligente dans le domaine médical – ©Netflix.
34L’IA, comme toutes les technologies mises en fiction dans Black Mirror, fonctionne comme un pharmakon : la notion est empruntée à Platon, et suppose que les technologies peuvent à la fois être remède et poison. C’est également ce qu’il ressort de l’analyse des entretiens. Ce n’est pas l’IA en tant que telle qui est critiquée ou remise en cause, mais bien ses applications et le manque d’encadrement et de limites éthiques dans l’utilisation et la commercialisation de ces technologies.
35Yannick Rumpala soulignait déjà en 2010 l’apport de la science-fiction pour penser le politique et les enjeux de pouvoir que soulèvent les technologies :
- 31 Yannick Rumpala, « Ce que la science-fiction pourrait apporter à la pensée politique », Raisons pol (...)
Par les mondes qu'elles mettent en scène, les œuvres de science-fiction touchent forcément au politique, même si, là aussi, c'est de manière plus ou moins directe. En dépaysant les représentations, elles peuvent offrir de nouveaux cadres, plus prospectifs, aux réflexions sur le pouvoir31.
36Loin d’être technophobe, comme le souligne son créateur Charlie Brooker, Black Mirror imagine dans l’épisode « Be Right Back » une IA permettant de converser avec les défunts, ainsi que les conséquences dystopiques et aliénantes qui pourraient en découler. Ce n’est pas la technologie elle-même qui est critiquée, mais bien son utilisation, qui soulève un certain nombre d’enjeux notamment éthiques. C’est également ce qui ressort de l’analyse des entretiens : le caractère dystopique de cette représentation de l’IA réside dans le manque de limites morales et éthiques régissant l’application et la commercialisation de la technologie.
37En opérant sur le mode du « et si ? », la représentation dystopique de l’IA dans « Be Right Back » résonne avec, voire amplifie les craintes et les questionnements de certains téléspectateurs. Parce que les séries sont des objets culturels, des références partagées dont on sait qu’elles se prêtent à la conversation, les séries dystopiques apparaissent comme susceptibles de favoriser la réflexion collective sur des problèmes publics, tel que c’est le cas de l’IA ici. L’analyse des entretiens montre que la mise en fiction de l’IA, lorsqu’elle est discutée collectivement, sert de point de départ à des échanges réflexifs et à la construction d’une réflexion sur les logiques de pouvoir contemporaines. Les questions relatives à la régulation de l’IA, mais plus généralement au stockage et au traitement des données personnelles sont largement discutées, à travers le prisme de l’épisode pour commencer, puis à travers celui des savoirs et des expériences personnelles des enquêtés.
38Une telle réception renvoie à ce que Yannick Rumpala théorise comme « une réflexion à rebours32 » sur notre présent et confirme l’adoption d’une posture réflexive et critique par les téléspectateurs permise par certaines œuvres de science-fiction qui, en mettant en scène un scénario articulé autour d’un futur possible, interrogent et problématisent nos problèmes publics actuels.