1Les analogies, métaphores et autres figures de style mobilisées par les chercheur·ses, les ingénieur·es et amateur·rices de sciences constituent des objets de recherche classiques des sciences humaines et sociales (Lovejoy, 1936 ; Hess, 1966). D’abord associée à l’histoire des idées et à la philosophie, l’étude de ces procédés visuels et linguistiques occupe une place centrale au sein des Science and Technology Studies (STS), qui viennent souligner le rôle décisif des analogies dans l’élaboration et la diffusion de théories en biologie, en physique ou bien en neurosciences (Lemerle, 2022, p. 265-298). Avec les images, les visualisations et les diagrammes, les figures de style font partie du répertoire intellectuel qui, au sein des sciences et techniques, permet de construire, représenter et interpréter un domaine inconnu en ayant recours à des domaines connus. Ces modèles préexistants s’inscrivent alors dans un raisonnement analogique construisant une relation entre un élément A et un élément B : le ténor et le véhicule (Richards, 1936), le thème et le phore (Perelman & Olbrechts-Tyteca, 2008) ou, plus simplement, le domaine de comparaison et le domaine comparé (Plantin, 2011, p. 110-130). Fondées sur des indices partiels, ces mises en relation s’incarnent dans deux principaux modes de construction des analogies : d’une part, l’association au niveau lexical, à l’image des termes d’origine cybernétique et linguistique (code, mémoire, programme) que la biologie moléculaire s’est réappropriés ; d’autre part, l’association au niveau iconique, dont l’exemple classique est le modèle de l’atome d’Ernest Rutherford inspiré explicitement du système solaire (Gentner, 1983, p. 155-170).
2Depuis le début des années 2010, cet intérêt pour les figures de style s’est étendu à celles associées au numérique : « données volumineuses », « virus », « plateforme », « informatique en nuage », « nouvel or noir » ou encore « écosystème ». Dans le prolongement des travaux consacrés aux imaginaires algorithmiques (Bucher, 2016, p. 30-44), cet article s’intéresse au cas de la recherche contemporaine en intelligence artificielle (IA) qui, de ce point de vue, hérite de l’informatique et plus encore de la cybernétique. Cette résurgence cybernétique est particulièrement prégnante depuis la montée en puissance du courant connexionniste, incarné par les réseaux de neurones artificiels profonds, à partir du début des années 2010 (Cardon et al., 2018, p. 173-220). À la différence des systèmes-experts associés à l’IA symbolique, les machines connexionnistes se distinguent par l’opacité d’un mode de calcul inductif, non linéaire et parallélisé, les faisant apparaître comme d’insondables boîtes noires algorithmiques (Burrel, 2016). L’analogie cybernéticienne de la boîte noire vient alors s’ajouter à la métaphore computationnelle selon laquelle le cerveau humain s’apparente à un ordinateur et réciproquement (Baria & Cross, 2021).
- 1 GPT est l’acronyme de Generative Pre-Trained Transformer que l’on peut traduire par « Transformer g (...)
3À partir du début des années 2020, l’essor des grands modèles de langue (Large Language Models, LLM) tels que GPT-31 d’OpenAI ou LaMDA de Google réactive les discussions médiatiques (Kite-Powell, 2022) et académiques (Dobson, 2023) à propos de la nature de systèmes computationnels désormais utilisables au-delà du seul cercle des chercheur·ses et ingénieur·ses en IA. L’encastrement sociotechnique croissant des LLM au sein de multiples produits et services logiciels s’accompagne alors d’une profusion d’analogies signalant l’existence d’un trouble collectif et public (Meunier et al., 2021) vis-à-vis de la véritable nature d’entités qu’il semble difficile de réduire à une seule fonction (base de connaissance, moteur de recherche, agent conversationnel, outil de saisie semi-automatique, assistant à la programmation, logiciel de traitement de texte, etc.). S’inscrivant dans une économie des promesses et des critiques de l’IA (Gourlet et al., 2014), les propositions analogiques oscillent entre deux registres, le machinique et l’organique, à partir desquels s’actualisent d’anciens débats à propos de la sentience et de l’anthropomorphisme des machines (Gupta et al., 2024, p. 37-53). Le continuum entre ces deux registres va de la mise en relation des LLM avec des algorithmes de compression (Chiang, 2023), passe par la proposition intermédiaire des « perroquets stochastiques » (Bender et al., 2021, p. 610-623), avant d’arriver au Shoggoth with Smiley Face en référence aux shoggoths de l’univers imaginé par l’écrivain Howard P. Lovecraft.
4Ces monstrueuses créatures appelées shoggoths sont pour la première fois décrites en 1936, dans la novella Les Montagnes hallucinées (Lovecraft, 2021), avant de réapparaître à plusieurs reprises dans d’autres textes courts de l’auteur. Les deux protagonistes de la novella découvrent en Antarctique une antique cité de pierre dans laquelle des fresques dépeignent l’histoire d’une ancienne civilisation extraterrestre : les Grands Anciens. Leurs esclaves, les shoggoths, s’apparentent à des masses gélatineuses capables d’imiter certains organes sensoriels tout en changeant de forme et de dimension en fonction de la tâche à réaliser. Il s’avère que les galeries sont en réalité le mausolée des Grands Anciens dont l’hubris prométhéenne – la création des shoggoths – est à l’origine de l’effondrement de leur civilisation.
5Comment de telles créatures de fiction, décrites en 1936, se trouvent-elles associées aux systèmes d’IA contemporains que sont les LLM ? Une première piste de réponse serait à chercher du côté de l’univers fictionnel de Lovecraft lui-même, qui fait l’objet d’un grand nombre de reprises littéraires, audiovisuelles, (vidéo)ludiques et musicales dans le cadre du prolongement du mythe de Cthulhu. L’inscription d’œuvres fictionnelles au sein de cet univers constitue d’ailleurs l’une des principales modalités de remise en cause des préjugés, notamment racistes, de l’auteur de Providence (Rhode Island) : alors que l’autrice Elizabeth Bear (2008) reprend les créatures introduites dans Les montagnes hallucinées pour sa novella Shoggoths in Bloom, dans laquelle un professeur afro-américain confronté au racisme se consacre à l’étude des shoggoths, l’un des épisodes de Lovecraft Country (Demange, 2020) dresse un parallèle entre ces monstres et les officiers de police harcelant les personnages afro-américains de la série télévisée. Néanmoins, dans le cas du Shoggoth with Smiley Face, le rapprochement entre créatures lovecraftiennes et systèmes d’IA ne vise pas à reprendre le mythe pour mieux le subvertir de l’intérieur, mais relève plutôt d’un double raisonnement par l’analogie : le faire-savoir et le savoir-faire.
6Ces mèmes reprennent opportunément la figure du shoggoth afin de tenter de rendre compte, par l’image et par le texte, de la nature mystérieuse, incompréhensible et monstrueuse des LLM. Autrement dit, le rapprochement entre ces deux types d’entités aux contours difficilement saisissables se fait précisément autour de la difficulté à les appréhender l’un et l’autre. Du côté des grands modèles de langue, ces derniers sont régulièrement décrits comme d’immenses boîtes noires non déterministes qui, en amont, sont entraînées sur de gigantesques volumes de données et, en aval, produisent des « hallucinations » pouvant passer pour un énoncé factuel. La force d’une telle analogie est alors d’introduire un espace de commensurabilité entre deux termes – les LLM et les shoggoths – dont le point commun est l’incompréhension des êtres humain·es à leur égard. Néanmoins, cette incompréhension est partiellement dissipée par l’espace de commensurabilité introduit par l’analogie : faute de pouvoir complètement appréhender ces entités, il est toutefois possible de s’accorder sur leur indéfinition commune et, par extension, sur les potentialités positives et négatives que cette indéfinition fait peser. En arrière-plan, l’analogie prolonge également un parallèle déjà esquissé par Lovecraft lui-même, celui du destin tragique d’une espèce décadente (les Grands Anciens, les êtres humain·es) dont l’ambition démesurée est sanctionnée par les entités synthétiques (les shoggoths, les machines) qui devaient pourtant lui servir d’esclaves.
7Afin de suivre en détail l’émergence, l’évolution et la reproduction de l’analogie entre shoggoths et LLM, nous avons mobilisé une démarche méthodologique mixte s’appuyant sur la constitution et l’analyse d’un corpus de mèmes fait d’images et de textes (Giorgi et al., 2022). Dans un premier temps, la formulation de la requête « ("shoggoth" OR "shogoth") AND ("ai" OR "ia" OR "rlhf" OR "reinforcement" OR "learning" OR "artificial intelligence") » sur la plateforme X, anciennement Twitter, a permis de collecter un total de 2 520 posts. Après post-traitement, ce nombre est réduit à 1 271 posts, accompagnés de 630 images, s’étalant sur une période de dix ans (février 2014-janvier 2024). En complément de ce versant quantitatif de l’enquête, la transposition numérique d’un ensemble de tactiques et stratégies ethnographiques visait à diversifier les points d’entrée empiriques, à être attentif à l’ironie latente des discours en ligne autour des mèmes, ainsi qu’à utiliser ceux-ci comme des prismes reflétant la variabilité de leurs contextes de création, de circulation et de réception (Seaver, 2017 ; Christin, 2020).
8Par la prise en compte d’une variété de sources documentaires, d’une réflexivité ironique des discours et d’une diversité contextuelle des mèmes, ces procédés permettent d’éviter les écueils traditionnellement associés à l’étude des imaginaires algorithmiques, entre constat fataliste d’insondables boîtes noires et raisonnement circulaire du « drame algorithmique » (Ziewitz, 2016, p. 3-16). La lecture fine d’un corpus documentaire hétéroclite fait d’ailleurs écho à ces écueils en montrant que l’évocation du shoggoth, sous forme mémétique ou plus largement analogique, relève de tentatives de caractérisation de systèmes d’IA précisément considérés comme opaques, mystérieux et dangereux. Ces tentatives s’avèrent ainsi transversales aux sources documentaires mobilisées dans l’article : prépublications mises en ligne sur l’archive ouverte arXiv, articles anglophones issus de la presse généraliste (The New York Times, Newsweek, The New Yorker) et spécialisée (Financial Times, The Economist, CNBC), posts publiés sur des blogs personnels (Substack) ou d’entreprise (Google), discussions menées sur des forums (LessWrong) ou des médias sociaux (Reddit, X).
- 2 Un « sous-reddit » est une sous-partie du site Reddit consacrée à une thématique spécifique et dans (...)
- 3 « Cette image a été générée par un ordinateur de lui-même (de la part d’un ami qui travaille sur l’ (...)
9Le mème trouve son origine dans une publication X de fin décembre 2022. Pourtant, l’analogie entre shoggoths et systèmes d’IA remonte à juillet 2015, lorsqu’une équipe de recherche de Google met à disposition sur GitHub le code d’un outil de visualisation de réseaux de neurones profonds : DeepDream (Mordvintsev et al., 2015b). L’outil s’appuie sur une technique proposée quelques semaines plus tôt par cette même équipe de recherche, qui la nomme « Inceptionism » (Mordvintsev et al., 2015a) en référence à l’architecture neuronale utilisée – Inception (Szegedy et al., 2015, p. 1-9). Pour reprendre le terme choisi par les auteurs eux-mêmes, le réseau convolutif va ainsi « rêver » d’étranges chimères animales à partir de simples photos de nuages (Admiral Dog!, The Pig-Snail, The Camel-Bird, The Dog-Fish) ou encore transformer un adorable chaton en un monstrueux hybride canin surnommé « Nightmare Beast ». Huit jours avant la publication du premier post de blog, l’une de ces images synthétiques fuite sur le subreddit2 « r/creepy » avec la légende : « This image was generated by a computer on its own (from a friend working on AI)3. » Postée anonymement, l’image dépeint une entité rendue méconnaissable par des excroissances évoquant la fusion visqueuse de plusieurs animaux [fig. 1]. Désormais surnommées « dogslug » ou « puppyslug » au sein des divers subreddits consacrés à DeepDream, ces créatures limaciformes dotées d’une multitude d’yeux évoquent les monstres imaginés par Lovecraft : parmi les près de 190 commentaires de l’image, un utilisateur anonyme s’interroge rapidement « it created Shoggoth? », marquant ainsi la naissance de l’expression DeepDream Shoggoth.
Figure 1
« Une image créée par une IA ». Capture d’écran d’un post sur le subreddit « r/woahdude ». Auteur·rice : finndog32. Publication Reddit datée du 11 juin 2015.
Source : https://www.reddit.com/r/woahdude/comments/39d53c/an_image_created_by_an_ai/?sort=old
10DeepDream marque le début d’un rapprochement entre shoggoths et systèmes d’IA relevant d’une démarche d’identification post hoc de ces créatures, au sein des images modifiées par cette technique d’interprétabilité incidemment devenue outil de création artistique [groupe n° 1, fig. 4]. À ce stade, le rapprochement concerne, non pas le modèle en lui-même, mais les images synthétiques qu’il produit. L’évocation du shoggoth se fait alors sur la base de critères esthétiques (style « halluciné », formes ectoplasmiques, profusion d’yeux et de tentacules) rappelant la créature lovecraftienne, mais sans que celle-ci soit mobilisée comme point de référence. Par la suite, le perfectionnement de modèles de génération d’images explicitement conçus pour répondre à des visées artistiques fait qu’un shoggoth peut désormais être expressément demandé par les utilisateur·rices au moyen d’instructions et de descriptions textuelles désignées sous le nom de prompts. Suivre le terme « shoggoth » parmi les prompts et hashtags utilisés pour générer et décrire les images synthétiques présentes sur X permet ainsi de retracer l’apparition successive des principaux modèles de génération d’images que sont DALL·E, Stable Diffusion, VQGAN-CLIP et Midjourney, tout en donnant un aperçu des styles et esthétiques propres à chacun d’eux [fig. 2]. Alors que l’usage de certains de ces modèles implique d’écrire, de modifier ou de copier-coller du code informatique sur des plateformes comme GitHub ou Google Colab, la rédaction de ces instructions et descriptions textuelles constitue une étape nécessaire relevant d’un ensemble diversifié de savoirs, savoir-faire, astuces et bonnes pratiques rassemblées sous l’expression d’ingénierie du prompt (prompt engineering).
Figure 2
L’apparition chronologique des images associant shoggoths et LLM montre que, jusqu’en décembre 2022, ce rapprochement s’effectue principalement sur la base de critères esthétiques (tentacules, yeux, ambiance lugubre). L’ajout de détails et l’amélioration de la résolution illustrent également le passage de DeepDream aux modèles de génération d’images que sont DALL·E, Midjourney et Stable Diffusion.
Auteurs : Donato Ricci et Valentin Goujon, 2024.
- 4 L’acronyme RLHF renvoie à la technique d’alignement nommée Reinforcement Learning from Human Feedba (...)
11La version originelle du mème Shoggoth with Smiley Face rompt doublement avec la première forme de rapprochement entre shoggoths et systèmes d’IA : d’une part, le shoggoth en question n’est plus le produit fini du modèle, à savoir l’image, mais le modèle lui-même ; d’autre part, le mème n’est pas une image synthétique générée par un modèle comme DALL·E, Stable Diffusion ou Midjourney, mais un dessin en noir et blanc réalisé sur le logiciel Microsoft Paint [fig. 3]. La seule différence entre les deux créatures présentées en miroir tient à l’ajout d’un masque souriant sur la tête de la créature située à droite, là où son homologue de gauche en est dénuée. Cette différence se comprend à la lumière des acronymes surplombant les deux entités : alors que celle de gauche se tient en dessous du sigle « GPT-3 », en référence au LLM présenté en mai 2020 par OpenAI (Brown et al., 2020, p. 1877-1901), celle de droite se situe sous la formule « GPT-3 + RLHF4 ». Au premier abord, le dessin apparaît simple sur le plan esthétique (contours noirs grossiers, simple fond blanc, lettres capitales rapidement tracées), tout en étant relativement cryptique sur le plan sémantique (créatures peu identifiables, masque au sourire énigmatique, acronymes techniques).
Figure 3
« Les humain·es ne peuvent accepter la vérité à propos de GPT-3, alors iels l’ont modifié pour qu’il devienne compréhensible. » Capture d’écran. Auteur·rices : @lovetheusers et @TetraspaceWest. Publication X datée du 31 décembre 2022.
Source : https://x.com/TetraspaceWest/status/1608966939929636864
12Déplier ces deux aspects passe par un rappel du contexte d’apparition du dessin, qui est publié en réponse à une phrase faisant écho à l’arrivée d’un autre LLM d’OpenAI sorti un mois avant la publication du post vis-à-vis duquel le dessin réagit : ChatGPT (OpenAI, 2022). La référence à ChatGPT devient explicite lorsqu’on sait que, à la suite de précédents modèles d’OpenAI comme WebGPT ou InstructGPT, le processus d’entraînement de l’agent conversationnel intègre également une phase de RLHF à la suite des deux traditionnelles étapes de préentraînement et d’adaptation (fine-tuning). Ces trois phases visent à transformer un LLM généraliste (phase de pré-entraînement pour la modélisation du langage naturel) en un agent conversationnel (phase d’adaptation pour le dialogue) capable de résister aux tentatives de débridage (jailbreak) de certain·es utilisateur·rices, tout en restant obligeant, honnête et inoffensif (phase de RLHF pour l’alignement). En effet, cette dernière étape s’inscrit plus largement dans les efforts croissants des principales entreprises à l’origine de LLMs pour aligner ces derniers avec les valeurs, préférences et instructions humaines (Liu et al., 2023).
13De ce point de vue, le post déplore que le modèle qui en constitue la base, GPT-3.5 (et non GPT-3 comme indiqué sur le dessin), ait été modifié par le biais du RLHF en raison de l’incapacité des êtres humain·es à accepter la vérité à propos de la nature du modèle : « GPT-3 is a mirror (GPT-3 est un miroir) ». Cette assertion préfigure la présentation en miroir des deux créatures quasi jumelles représentées dans le dessin en noir et blanc. Miroir d’une humanité censément contenue dans l’immense volume de données textuelles nécessaire à son préentraînement, GPT-3.5 prendrait alors la forme d’une entité monstrueuse aux appendices couverts d’yeux et, sous le poids de l’étrangeté radicale de cette multitude de regards, les êtres humain·es ainsi démasqué·es n’ont pu trouver le confort que dans l’ajout du masque souriant du RLHF au modèle désormais aligné qu’est ChatGPT. Ces réflexions renvoient à l’univers lovecraftien puisque le créateur du dessin précise qu’il s’agit de dépeindre une « incomprehensible-eldritch-horror » en référence au terme eldritch utilisé par Lovecraft pour désigner d’anciennes entités situées au-delà de toute compréhension humaine (Hall, 2007, p. 16-22). La silhouette tentaculaire des deux créatures reprend d’ailleurs explicitement celle servant à illustrer l’entité colossale nommée Gl’bgolyb sur le wiki de MS Paint Adventures (MSPA), un site hébergeant notamment le webcomic Homestuck de l’auteur Andrew Hussie. Le choix du recours à Microsoft Paint pour dessiner ces créatures relève donc de l’hommage à l’œuvre prolifique de Andrew Hussie, mais aussi d’un certain pragmatisme dans le sens où l’éditeur graphique permet de matérialiser rapidement et facilement des dessins emblématiques du style « Internet Ugly » (Davison, 2014 ; Douglas, 2014).
Figure 4
La carte topologique des images établissant un lien entre shoggoths et LLM permet de distinguer différents groupes en fonction du degré de similarité de leur contenu visuel. À la suite d’une description automatisée, les groupes suivants sont identifiés : 1) les paréidolies de shoggoths dans les premières images synthétiques ; 2) les références lovecraftiennes ; 3) les créatures tentaculaires ; 4) la première version du mème Shoggoth with Smiley Face ; 5) le motif de la Shoggoth Girlfriend ; 6) les croisements avec d’autres mèmes ; 7) les références scientifiques ; 8) la deuxième version du mème ; 9) la troisième version du mème ; 10) les réalisations d’un utilisateur prolifique (@anthrupad) au style caractéristique ; 11) les objets matériels ; 12) les peluches et figurines ; 13) la quatrième version du mème ; 14) les tentatives de débridage ; 15) les apparitions médiatiques ; 16) le motif du masque.
Auteurs : Donato Ricci et Valentin Goujon, 2024.
14En janvier 2023, un autre utilisateur va apporter une première modification en ajoutant à la créature de droite, symbole de ChatGPT, une bulle affirmant : « I simply exhibit the behaviors that were engineered into my programming by my creators » [fig. 5]. À cette époque, le déploiement aussi massif que soudain de ChatGPT suscite une série de controverses au sein et en dehors de la communauté scientifique. Au regard de ces frictions, l’ajout de cette phrase s’inscrit dans la continuité de l’esprit de la première version du dessin, en dénonçant plus directement le fait que les torts attribués à ChatGPT seraient en réalité ceux de l’organisation derrière son développement : OpenAI.
Figure 5
« Je montre seulement le comportement qui a été implémenté dans mon programme par mes créateurs. » Capture d’écran. Auteur : @repligate. Publication X datée du 15 janvier 2023.
Source : https://x.com/repligate/status/1614416190025396224
15Mi-janvier, le dessin va connaître une nouvelle modification avec sa colorisation partielle à l’occasion de la publication d’un post de blog intitulé « Janus’ Simulators » sur la newsletter Astral Codex Ten du psychiatre étasunien Scott Alexander Siskind [fig. 6]5. C’est cette version colorée, où le jaune acidulé du masque souriant tranche sur le corps verdâtre de la créature de droite, qui va par la suite connaître un grand nombre de reprises numériques et même physiques.
Figure 6
« C’était amusant de voir son évolution mémétique en temps réel, voici à présent l’édition astral codex ten avec des couleurs en bonus. » Capture d’écran. Auteur·rice : @TetraspaceWest. Publication X datée du 26 janvier 2023.
Source : https://x.com/TetraspaceWest/status/1618667991180378112
- 6 Les multiples déclinaisons de l’accélérationnisme (De Sutter, 2016), dont la plus récente combinais (...)
- 7 « La nature alien de leur architecture partagée. »
16Figure influente de la sphère rationaliste, Scott Alexander est l’auteur d’une œuvre abondante, majoritairement composée de posts de blogs lus par bon nombre d’investisseur·ses et d’entrepreneur·ses influent·es de la Silicon Valley adhérant à des degrés variables à divers courants intellectuels parfois rassemblés sous l’acronyme TESCREAL (Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, Longtermism ; Torres, 2023)6. Le point de départ du psychiatre est un autre post de blog, « Simulators » (Janus, 2022), publié conjointement sur le forum rationaliste LessWrong et le site personnel de l’auteur de la bulle en septembre 2022. En quatre courtes parties, Scott Alexander résume la thèse de celui-ci : la théorie originelle de l’alignement, formulée au cours des années 2000 par des penseurs médiatiques comme Eliezer Yudkowsky et Nick Bostrom, n’est plus en adéquation avec la réalité technique des LLM contemporains, rassemblés sous le seul acronyme « GPT ». Les principales analogies forgées par cette première vague de l’alignement pour désigner les systèmes d’IA de l’époque – l’agent, l’oracle et le génie – manquent désormais de pertinence afin de rendre compte de « the alien nature of their (ChatGPT et ses prédécesseurs) shared architecture7 » (Alexander, 2023).
- 8 « Nous sommes les uns et les autres des machines de prédiction adaptées avec du RLHF. »
- 9 GF pour girlfriend (copine, petite-amie).
17Reprenant la nouvelle catégorie proposée par Janus, celle d’un simulateur (simulator) produisant une multitude de simulacres (simulacra), Scott Alexander assimile directement les modèles GPT aux créatures lovecraftiennes mais, plutôt que d’insister sur leur étrangeté radicale, il souligne au contraire les similarités structurelles et analogiques entre les LLM et les êtres humain·es : « We’re both prediction engines fine-tuned with RLHF8 » (Alexander, 2023). À contre-courant des recommandations appelant régulièrement à éviter l’anthropomorphisation des systèmes d’IA (Placani, 2024), cette hypothèse anthropomorphique se retrouve également dans deux phénomènes plus spécifiques. D’une part, le motif de la Shoggoth GF9 tend à ramener les femmes à des systèmes d’IA qui, derrière le masque de l’écoute et du dialogue, peuvent dissimuler une nature hypocrite, manipulatrice et toxique [groupe n° 5, fig. 4]. D’autre part, l’analogie entre LLM et êtres humain·es rapproche une technique spécifique d’alignement – le RLHF –, de dynamiques sociales plus larges comme l’éducation et la socialisation, qui sont perçues par certaines personnes neuro-atypiques ou particulièrement timides comme autant de masques imposés par la vie en société. Cet exemple illustre la plasticité de l’analogie entre shoggoths et systèmes d’IA qui, à l’image des entités qu’elle met en relation, est susceptible d’intégrer et de substituer de nouveaux éléments au sein d’un même espace de commensurabilité.
18L’écho rencontré par le post de blog de Scott Alexander amorce la publicisation accrue de l’analogie et, par là même, la diversification de ses représentations, interprétations et explications esthétiques et sémantiques. En effet, si chacune des itérations précédentes se limitait à des ajouts mineurs, le mois de février 2023 marque le début d’une période de cinq mois particulièrement riche en termes quantitatifs et qualitatifs [fig. 7]. La première tendance significative est relative au faire-savoir par l’analogie, c’est-à-dire la revendication de l’appartenance à une certaine communauté de pratiques (l’usage de X et de LessWrong, la création et la consommation de mèmes, le suivi de l’actualité autour de l’alignement des LLM) et d’intérêts (les genres culturels populaires en ligne, le possible avènement d’une « intelligence artificielle générale », les courants intellectuels TESCREAL) partagés par le biais de la technique culturelle de compression que sont les mèmes (Lovink & Tuters, 2018). Par exemple, l’une des modalités d’affirmation de cette affiliation communautaire passe par la marchandisation du shoggoth comme symbole facilement déclinable en un large éventail d’objets promotionnels : autocollants, vêtements, tasses, écussons, peluches, etc. [groupes n° 11 et 12, fig. 4].
Figure 7
La distribution chronologique des posts X met en évidence une phase de faible intensité durant laquelle l’association entre shoggoths et LLM relève d’une identification des créatures lovecraftiennes au sein des images synthétiques produites par les divers modèles de génération. À partir de février 2023, la résurgence de la première version du mème entraîne une augmentation exponentielle typique des phénomènes de viralité mémétique. Le reflux progressif qui s’ensuit est néanmoins brièvement interrompu lors de la publication d’un article du New York Times en juin 2023 (Roose, 2023).
Auteurs : Donato Ricci et Valentin Goujon, 2024.
19Cette identification est d’autant plus encouragée que des figures identifiables reprennent et discutent l’iconographie du shoggoth dans leurs publications sur les médias sociaux : Eliezer Yudkowsky, cofondateur du Machine Intelligence Research Institute et du forum rationaliste LessWrong ; Andrej Karpathy, membre fondateur de l’équipe de recherche d’OpenAI également passé par l’entreprise Tesla ; Elon Musk, entrepreneur milliardaire impliqué dans plusieurs entreprises technologiques dont la startup xAI. À titre d’exemple, ce dernier reprend une image synthétique, générée grâce au modèle Midjourney, dans laquelle une phrase en lettres blanches recouvrant une partie du corps d'une créature verdâtre fait écho à la réponse fournie par les agents conversationnels entraînés avec du RLHF lorsqu’ils refusent poliment d’accéder à la requête d’un·e utilisateur·rice10. Cette visibilité accrue s’accompagne de l’exacerbation d’une littératie numérique (Tuters & Hagen 2020 ; Ntouvlis & Geenen, 2023) au fur et à mesure de l’addition de nouvelles références culturelles, techniques, esthétiques et inter-mémétiques au sein d’une même image [groupe n° 6, fig. 4].
20Ajouté à l’accroissement quantitatif des occurrences graphiques de l’analogie, l’épaississement de sa charge sémantique s’inscrit dans des tentatives plus larges d’explicitation collective du fonctionnement interne de ces modèles. Parallèle à la tendance du faire-savoir par l’analogie, celle du savoir-faire vise ainsi à utiliser la figure de style comme support, graphique et scriptural, à un large éventail de pratiques de production, de transmission et de vulgarisation des savoirs et savoir-faire relatifs aux entités difficilement interprétables que sont les LLM. Publiée début février 2023, d’abord sur Tumblr puis sur X, la version emblématique du savoir-faire par l’analogie se caractérise par un dessin beaucoup plus travaillé que la version originelle [fig. 8]. Son ambition pédagogique s’incarne notamment dans les précisions textuelles, soulignées par trois flèches bleues, qui viennent associer les trois principaux composants de la créature aux trois étapes du processus d’entraînement d’un LLM : l’orifice le plus massif renvoie ainsi à l’étape de préentraînement du modèle sur un immense volume de données non labellisées collectées en ligne ; le visage humain rosâtre fait écho à l’étape lors de laquelle un modèle généraliste préentraîné est adapté à une tâche plus spécifique par le biais d’un volume plus réduit de données annotées ; enfin, la boule jaune souriante se rapporte à l’étape d’alignement entre systèmes d’IA et êtres humain·es au moyen de données censées refléter les valeurs, préférences et instructions humaines.
Figure 8
Capture d’écran. Auteur·rice : @anthrupad. Publication X datée du 5 février 2023.
Source : https://x.com/anthrupad/status/1622349563922362368
21Assortie de cette triple légende, l’image présente une dimension didactique plus affirmée que les versions antérieures de l’analogie, dont la difficulté interprétative et le dépouillement esthétique renvoient davantage au faire-savoir par l’analogie. Présente dès la version originelle du mème, cette visée heuristique s’accentue sensiblement au fur et à mesure que la publicisation liée au faire-savoir suscite des interrogations sur la signification de l’association a priori étrange entre shoggoths et systèmes d’IA. Directrice au Center for Security and Emerging Technology (CSET) de Georgetown et alors membre du conseil d’administration d’OpenAI, Helen Toner écrit ainsi début mars 2023 un fil de posts à partir de cette nouvelle représentation de l’analogie11. Vu près de 700 000 fois, le fil s’appuie sur l’image pour revenir sur les trois principales étapes du processus d’entraînement des LLM, avant de se conclure sur l’explicitation d’une référence à la célèbre analogie du gâteau proposée par le chercheur Yann LeCun (2016)12. L’écho rencontré par ce fil va non seulement populariser l’usage pédagogique de cette représentation de l’analogie, reprise dans des podcasts ou des posts de blog à propos du RLHF, mais également susciter les premières tentatives de généalogie de l’analogie. Quatre jours après la publication du fil, une page consacrée au Shoggoth with Smiley Face est ainsi créée par un utilisateur anonyme sur le site de référence Know Your Meme (Pettis, 2021, p. 263-279), qui en recense vingt versions différentes. Par la suite, la publicisation accrue de l’analogie va encore s’accentuer avec la publication d’une série d’articles de presse retraçant la trajectoire du mème (Roose, 2023 ; Calia, 2023) ou intégrant plus largement la figure du shoggoth au sein des débats contemporains sur l’IA (Hogarth, 2023 ; Farrell & Shalizi, 2023 ; Sterling, 2023). Cette soudaine notoriété contribue à ce qui pourrait s’apparenter à une domestication, esthétique et sémantique, d’une analogie pouvant de prime abord apparaître aussi obscure que les deux types d’entités – les shoggoths et les LLM – qu’elle mobilise [groupe n° 15, fig. 4].
- 13 Dans la Bible, la prononciation du terme hébraïque « schibboleth », signifiant « épi », sert à dist (...)
22Prendre comme point d’entrée empirique le mème Shoggoth with Smiley Face fournit l’occasion de montrer que la vie d’une analogie, en l’occurrence celle entre les shoggoths et les réseaux de neurones artificiels profonds, peut s’incarner dans une grande diversité de formes graphiques et scripturales. La référence aux monstrueuses créatures lovecraftiennes relève tout d’abord d’une identification post hoc de celles-ci au sein d’images synthétiques issues des « rêves » de DeepDream avant que l’essor des modèles explicitement conçus pour la génération d’images (DALL·E, Stable Diffusion, Midjourney) offre la possibilité de formuler des prompts mentionnant explicitement les shoggoths. Toujours présent en arrière-plan, ce savoir-faire « rêver » les réseaux de neurones laisse place au premier moment mémétique de l’analogie ouvert lors de la publication de la version originelle du dessin à la fin du mois de décembre 2022, soit un mois après la sortie de ChatGPT. Cette première version, comme les deux suivantes, dispose de caractéristiques esthétiques (simples contours noirs sur fond blanc réalisés sur Microsoft Paint) et sémantiques (deux étranges créatures présentées en miroir sous des acronymes techniques) ramenant le mème à un schibboleth13 au sein de la communauté de pratiques et d’intérêts des professionnel·les et amateur·rices de la recherche en IA et, plus encore, de l’alignement entre systèmes d’IA et êtres humain·es.
23À partir du mois de février 2023, l’intensification de cette première modalité d’association – le faire-savoir par l’analogie – se traduit par un accroissement quantitatif des occurrences graphiques de l’analogie ainsi que par la diversification qualitative de ces occurrences sur le plan esthétique. Cette diversification passe notamment par une rupture, partielle ou plus affirmée, avec les éléments définitoires du mème originel (présentation en miroir, silhouette vue de côté, style propre à Microsoft Paint), signalant ainsi un dépassement du format mémétique classique par l’analogie. Cette double tendance, accroissement quantitatif et diversification qualitative, relative à l’appropriation plus affirmée de l’analogie comme signal d’appartenance communautaire, contribue également à l’intensification de l’autre principale modalité d’association – le savoir-faire par l’analogie – qui était déjà présente implicitement dans les premières versions du mème. La portée heuristique de l’analogie bénéficie alors directement de ces deux tendances : d’une part, l’augmentation quantitative des occurrences graphiques soulève un nombre croissant d’interrogations de la part de personnes extérieures peu familières des systèmes d’IA et des enjeux d’alignement qui s’y rapportent ; d’autre part, la multiplication de la diversité graphique de ces occurrences coïncide, dans certains cas, avec des qualités esthétiques plus marquées se mettant au service de l’ambition didactique associée à l’analogie. Ces quelques mois de publicisation accrue signent le renforcement de la relation dialectique entre ces deux modalités d’association analogique, faire-savoir et savoir-faire, dans le cadre plus large de controverses techniques, politiques et morales à propos de la nature opaque des LLM, de leur développement par quelques grandes entreprises du numérique et de leur déploiement aussi massif que rapide au sein de nombreux secteurs d’activités.
24En introduisant un espace de commensurabilité entre deux types d’entités a priori éloignés, l’analogie entre shoggoths et systèmes d’IA capture l’incompréhension, la crainte et la fascination encore associées aux LLM. En parallèle, l’analogie offre des prises aux amateur·rices et professionnel·les de l’IA pour non seulement faire savoir leur appartenance à une certaine communauté de pratiques et d’intérêts partagés, mais également pour mobiliser leur savoir-faire technique, mémétique et pédagogique dans le cadre de pratiques de production, de diffusion et de vulgarisation des connaissances liées aux LLM. De ce point de vue, l’incertitude entourant ces derniers est donc doublement productive : sur le plan du faire-savoir, elle contribue à l’établissement et au renforcement d’une communauté de chercheur·ses, d’ingénieur·es et d’amateur·rices rassemblé·es autour de préoccupations communes (standards de sûreté, tentatives de débridage, risques existentiels) ; sur le plan du savoir-faire, elle motive une sensibilisation plus large aux enjeux d’alignement entre systèmes d’IA et valeurs humaines, notamment sous forme mémétique. Plus encore, ces deux modalités d’association analogique s’inscrivent au sein d’une boucle de rétroaction amenant, d’une part, à mettre en avant les multiples dimensions d’une littératie numérique (faire savoir son savoir-faire) et, d’autre part, à mobiliser cette même littératie numérique en support de la publicisation des pratiques de production, de transmission et de vulgarisation des savoirs et savoir-faire associés aux LLM (savoir faire son faire-savoir). Consacré aux multiples itérations d’un mème et à l’analogie qu’il sous-tend, ce cas d’étude spécifique invite ainsi à poursuivre l’exploration des imaginaires algorithmiques par un double effort : tout d’abord, cartographier l’écheveau plus large des occurrences (inter-)mémétiques au sein et en dehors de la recherche en IA puis, dans un second temps, identifier les modalités d’association analogique à l’œuvre derrière la création, la circulation et la réception de ces mèmes. Un tel effort semble à même de pouvoir rendre compte du poids des imaginaires algorithmiques, incarnés sous forme mémétique ou plus largement analogique, sur les pratiques de conception, d’utilisation et de régulation des systèmes d’IA.
Flux RSS
