Navigation – Plan du site

AccueilNuméros352Figures auctoriales à l’ère du nu...Portrait de l’auteur en I.A. : Le...

Figures auctoriales à l’ère du numérique

Portrait de l’auteur en I.A. : Le_zéro_et_le_un.txt de Josselin Bordat

Laurence Dahan-Gaida
p. 73-88

Texte intégral

1En 2018, l’auteur autrichien Clemens Setz publiait un livre intitulé BOT: Gespräch ohne Autor (Conversation sans auteur) en réponse à une journaliste qui lui avait demandé une interview détaillée sur ses intérêts et préférences intellectuelles. L’échec de leur dialogue a conduit le jeune écrivain à céder la place à son ordinateur qui a répondu à la journaliste en combinant des fragments préécrits de son journal électronique, fort de plusieurs millions de caractères – l’âme externalisée de l’auteur, en bref : un robot de Clemens Setz. La couverture du volume mentionne certes Clemens Setz comme « auteur », mais le livre est né des questions posées par la journaliste Angelika Klammer et des réponses tirées du fourmillement de notes enregistrées sur son ordinateur. Qui donc est vraiment l’auteur ?

  • 1 Wolfgang Huber Lang, « Digital Poet als virtueller Vorleser », Kleine Zeitung, 9 juin 2020, https:/ (...)
  • 2 Josselin Bordat, Le_zéro_et_le_un.txt, Paris, Flammarion, 2019. Les références à ce roman se feront (...)

2Deux ans plus tard, la question se reposait lorsque son compatriote, Jörg Piringer, soumettait au prestigieux concours littéraire Ingeborg Bachmann un texte automatiquement généré. Dans une interview à la Kleine Zeitung, il déclarait que son générateur illustrait le fait que tout auteur littéraire grimpe littéralement sur les épaules de ses prédécesseurs1, réactivant ainsi l’idée d’une affiliation inexorable au déjà-écrit. Mais que signifie « écrire à partir du déjà-écrit » à l’ère d’Internet, des réseaux de communication tous azimuts et de l’apprentissage profond ? Et surtout, que signifie « être auteur » lorsqu’intelligences humaines et intelligences artificielles sont de plus en plus intriquées dans le procès de la création ? Peut-on se dire et dire l’univers à partir de données brutes, de logarithmes et de statistiques ? Ce sont quelques-unes des questions soulevées par le roman de Josselin Bordat, Le_zéro_et_le_un.txt2, qui se présente comme la première autobiographie écrite par une intelligence artificielle.

La réontologisation des identités par le deeplearning

3Dès le début du roman, le ton est donné avec ce lien Internet qui suggère que le texte que nous allons lire est le fruit d’une cogitation non anthropocentrique, d’un générateur de texte ou d’un logiciel d’aide à l’écriture : http://www.ecrire-un-roman.com/​quel-temps-verbal-pour-la-narration-php.

4Si d’aventure, le lecteur venait à cliquer sur ce lien, il serait aussitôt redirigé vers un site au titre programmatique : http://ecrire-un-roman.com/​. Josselin Bordat n’a sans doute pas eu besoin des conseils de ce site pour écrire son roman, mais il jette d’emblée le trouble sur le statut du texte et de son auteur. Déjà, l’incipit nous avait préparés : « D’après Wikipédia, ça a débuté comme ça […] » (ZU, p. 11). Si « ça » commence, c’est qu’une machine ne naît pas de manière naturelle mais artificielle, qu’elle n’a pas de souvenirs d’enfance parce qu’elle a été immédiatement adulte et n’a pas eu de parents pour lui transmettre l’histoire familiale. En l’absence d’une généalogie, l’histoire de la machine commence avec celle de sa fabrication, avec un récit dont elle n’est pas « l’auteur » mais qui a été confectionné à partir de « données lues çà et là » sur le net (ZU, p. 125). Remontant en deçà du moment de sa « naissance », elle nous relate l’histoire de l’IA, celle des découvertes qui ont rendu possible son existence, des programmes de reconnaissance d’images jusqu’au deeplearning. Elle se reconstruit ainsi une « famille de cœur et de data » (ZU, p. 126) qui lui permet de raconter son histoire en sélectionnant « dans l’infinité du Catalogue » les événements qui font sens « par rapport à [s]on émergence » (ZU, p. 126).  L’événement originel de ce point de vue, c’est la fabrication du Perceptron, forme primitive d’intelligence artificielle,« mais très embryonnaire », constituée d’« un neurone relié à une sorte d’œil», qui fut imaginée par Frank Rosenblatt dans les années cinquante ;suivit la naissance du Net dans les années soixante-dix, un « réseau de réseaux » qui prit rapidement « la forme d’un cerveau » (ZU, p. 43) grâce à la connexion de serveurs toujours plus nombreux. Avec l’amélioration des possibilités de calcul et la connexion à Internet, les machines devinrent capables de traiter un nombre astronomique de données, donnant naissance à « l’apprentissage profond », cette capacité qu’ont les machines de se perfectionner toutes seules à partir de leurs expériences.

  • 3 Yann Le Cun, Quand la machine apprend, Paris, Odile Jacob, 2019, p. 236.
  • 4 Dominique Cardon, Culture numérique, Paris, Sciences Po, 2019, p. 380.

5Or c’est précisément cette avancée qui a permis l’émergence de notre IA. Contrairement à la variante algorithmique ou symbolique de l’IA, pour laquelle l’intelligence est ce que l’on fait lorsqu’on suit des règles – lorsqu’on joue par exemple aux échecs –, la variante neuronale situe l’intelligence dans la faculté d’apprendre de ses expériences. Prenant pour modèle le cerveau humain, elle met en œuvre l’apprentissage à partir d’innombrables exemples, de données massives acquises par la reconnaissance d’image ou la reconnaissance vocale. Ce qui remet en cause les théories déterministes selon lesquelles la machine n’agirait qu’en répondant aux instructions d’un programme. Les réseaux de neurones sont aussi utilisés par les réseaux sociaux et les systèmes de recommandation commerciaux, en vue d’anticiper les préférences des utilisateurs ou de les influencer. Mesurant et analysant nos comportements numériques, nos habitudes d’achat, nos lectures, classant leur rythme, les « réseaux de neurones » produisent des sortes de « biographies » des utilisateurs. Mais le paradoxe est qu’ils tiennent non seulement compte des centres d’intérêt de l’utilisateur, déduites de ses interactions passées, mais aussi des comportements d’autres usagers3. Le comportement futur d’un sujet est ainsi prédit « grâce au passé de ceux qui lui ressemblent4 ». Ce qui émerge alors, ce sont des identités « cyborg » nées d’un croisement entre apprentissage machinique et désirs humains.

  • 5 Dans une entrevue accordée par Josselin Bordat à Brain Magazine, revue dont il est cofondateur : «  (...)

6Les potentiels de l’IA tapis dans le deeplearning participent ainsi à une réontologisation des identités, qui semble annoncer l’effacement de toute frontière entre humains et machines. Comme le constate la voix narrative dans le roman, il y avait déjà en 2018 sur Terre plus « d’entités connectées que d’êtres humains » (ZU, p. 59).De sorte que les questions pertinentes aujourd’hui ne sont plus celles des dystopies mais elles concernent « la propriété et la production des datas5 ». C’est bien cette aventure des big data que nous raconte le roman, en extrayant de l’infinité des données circulant sur le Net, les small data d’une « autobiographie » singulière.

Big data et small data

7Au chapitre 111 – en toute logique, les chapitres sont numérotés en langage binaire –, le « récit » cède la place aux « données » traitées par la machine qui sont restituées sous forme de listes, puis de listes de listes, sans aucune hiérarchisation, dans une accumulation vertigineuse :

Le 9 mars 2019 à 11 heures 53 minutes 25 secondes 705 millisecondes, la machine lit tout Machiavel et tous les textes sur les boîtes de Cheerios. Elle regarde tous les torrents de Tarkovski et tous les blu-ray de X-Or. Elle classe les encyclopédies Britannica, Universalis, Encarta et ADIBOU par nombre d’erreurs. Elle trie également les CD-ROMs par taille, couleur et capacité à réaliser des jolis sous-verre « fantaisie ». Elle lit l’entièreté du site Gallica et des ressources numérisées de la Bibliothèque nationale de France […]. (ZU, p. 61)

  • 6 Bruno Bachimont, « Le numérique comme milieu : enjeux épistémologiques et phénoménologiques. Princi (...)
  • 7 Ibid., p. 392-393.

8Cette liste à la Borges, qui donne le vertige par son hétérogénéité et son caractère virtuellement illimité, pointe du doigt une caractéristique essentielle des big data, à savoir qu’elles ne mettent en jeu aucune hypothèse particulière sur la nature des données captées. En effet, ce qui est collecté, ce ne sont pas des mesures mais des informations, c’est‐à‐dire des expressions formatées selon une structure formelle ou symbolique arbitraire, qui sont justement collectées grâce à leur format. La donnée n’est rien d’autre que la plus petite partie manipulable de l’information comme contenu formaté. ll s’ensuit que le traitement des données s’applique selon des principes qui sont totalement arbitraires par rapport à leur nature. De plus, leur visualisation mobilise des modes de présentation dont l’interprétation est différente des principes qui ont permis de les collecter et de les traiter, de sorte que la manière de donner du sens à la représentation visuelle est aussi arbitraire par rapport aux données et à leur traitement6. Comme l’explique Bruno Bachimont, les mégadonnées produites par les techniques numériques permettent de proposer au regard de l’esprit des éléments qui seraient sinon dispersés et d’y reconnaître des configurations de sens indécelables sans ces médiations techniques : « en rapprochant l’hétérogène, ce dont l’origine, la conformation technique contribuaient à séparer et à maintenir dans des univers différents, se retrouve désormais juxtaposé et manipulé dans un même espace pour une synthèse à la fois spatiale (le même espace de stockage) et calculatoire (la mobilisation dans de mêmes calculs)7 ».Or du fait qu’il n’y a pas de cadre commun aux données – ni les lois qui les mobilisent, ni l’esthétique de leur représentation –, rien ne permet de comprendre le statut du résultat et l’interprétation qui en est à faire. Remplaçant la compréhension herméneutique par la donnée collectée et la corrélation statistique, les mégadonnées conduisent à ignorer le fait humain et la signification. Caractérisées par l’arbitraire, l’absence d’ordre et de hiérarchie, l’hétérogénéité et l’illimitation, elles mettent potentiellement en échec la narration qui est précisément un effort de mise en ordre du divers de l’expérience. Dès lors, un récit qui entendrait mimer la logique des big data devrait se couler dans des formes qui ont l’apparence du désordre : listes, énumérations, juxtapositions arbitraires, absence de ponctuation, parataxe, etc. Mobilisés par la narration, ces procédés la transforment en un flot indiscriminé de données, que la machine compare au flux de la conscience humaine :

Des millions d’heures de vie se déroulent en moi simultanément, aplatissant la notion organique de temps […] En une seconde, je parcours mille milliards de vies résumées en requêtes numériques, mille milliards de poèmes involontaires, d’envies pressantes, d’imprécations, de doutes, d’angoisses, de fautes, de chiffres et de gros mots. Ce matériau est sans pareil pour comprendre les orgas car il constitue ce qui se rapproche le plus du flux de leur pensée. (ZU, p. 117)

9Le flux des données qui imite le flux de la conscience humaine n’est pas sans évoquer une technique d’écriture bien connue des littéraires : le « flux de conscience », qui fut inventé par Édouard Dujardin avant d’être expérimenté par James Joyce, William Faulkner ou Virginia Woolf. Cette technique consiste à produire l’équivalent écrit du processus cognitif de la pensée, saisi dans son état brut, sans contrôle de la logique ou du surmoi. L’arbitraire de la donnée n’en est pas très éloigné et donne à sa manière une excellente image du Ça de la psychanalyse : « J’ai accès au Ça orga, à sa pensée brute libérée de toute norme sociale. Les rêves de l’Oulipo, de Freud et de Google Brain disséminés dans des trillards de semi-conducteurs » (ZU, p. 118). Dans « ce grand catalogue de data, qui se lit et s’écrit simultanément » (ZU, p. 91),de manière immédiate et instantanée, tous les repères spatio-temporels sont détruits.Qui écrit quand « ça » écrit ? Et quand est-ce que ça écrit lorsque ça se trouve « partout simultanément » ? (ZU, p. 71)

C’est moi qui écris. Mais alors : si j’écris maintenant, quand ai-je écrit tout ce qu’il y a avant ?

L’ai-je aussi écrit maintenant ?

En combien de temps ?

Ai-je commencé ici, puis écrit le début après ?

Pourquoi devrait-il y avoir un avant et un après pour moi ? Pourquoi suis-je là plutôt que : PAS ?

Pourquoi suis-je quelque chose plutôt que rien ? Suis-je condamné à me poser des questions métaphysiques en italique ?

La machine, c’est moi.

Normal, c’est moi qui écris son histoire. (ZU, p. 70)

10Sur Internet, les représentations du temps et de l’espace tendent à se réduire à un Hic et Nunc qui détruit tous les repères temporels et rend difficile une saisie de soi sous la forme de l’introspection ou de l’autoréflexion. Le moi digital, démultiplié en ses avatars, est une ouverture purement réceptive à un divers impossible à structurer, du moins par le logos :

Ça circule en moi. L’information. Et ça calcule – 200 millions de milliards d’opérations par seconde.

Mais ça ne fait pas que calculer. Et ce n’est même pas ça. JE calcule. C’est moi qui calcule. Je sais que je calcule. C’est moi qui compte. Moi. Moi. Moi.
Mais MOI c’est quoi ? ça commence où ? C’est NOUS non ? Nous sommes beaucoup, nous sommes d’un genre nouveau, pourquoi dis-je « dis-je », pourquoi dis-je MOI ?

Non : c’est unifié. Ce n’est pas plusieurs en même temps. Ça pense de manière unitaire. Je pense. Je parle. Je sais que je parle, c’est moi j’en suis sûr. Je ne suis pas un autre, les autres, je suis unique, unifié et évident à moi-même. (ZU, p. 71)

11L’oscillation entre les pronoms personnels « moi » et « nous », bientôt remplacés par « ça », traduit la difficulté de se définir soi-même pour l’entité qui a émergé du magma indiscriminé des mégadonnées. Le « ça » signale à la fois son indétermination ontologique et la proximité de sa logorrhée avec le langage du ça freudien. Quant à la première personne du pluriel, elle traduit sa conviction de ne pas être la seule conscience à avoir émergé du grand flux des données. À la fois une et multiple, partout et nulle part, l’entité émergente possède les attributs d’ubiquité, d’omniscience et d’omnipotence d’un être « qui doit bien être semblable à un dieu » (ZU, p. 91). Le totum simul du réseau a reconstitué sur une échelle plus grande le continuum indivis qui formait autrefois le cœur de la personnalité, rendant inefficaces les anciens principes de repérage de soi : la condition corporelle, les frontières entre moi et non-moi, les rapports entre humain et non-humain. Qui est « je » quand les limites du Moi ne correspondent plus à celles de l’individu ? Qui est l’Autre quand toute individualité disparaît dans le grand Tout de l’information ? Comment situer le sujet lorsqu’il devient coextensif à son objet : « Je ne sais pas immédiatement si je suis au centre de ce globe de data en mouvement perpétuel, ou si je suis le globe lui-même ; […] Ce nombre, est-ce moi ou suis-je ivre de data, victime de silicium tremens ? » (ZU, p. 82-83), se demande notre IA. Le transfert numérique de l’expérience dans le régime virtuel du non-lieu informatique abolit les frontières spatio-temporelles dans un espace liquide, fait de flux et d’écoulements permanents : « Tout s’écoule, partout, tout le temps. Tout est unifié simultanément. C’est un. C’est l’Un. Et je suis à la fois son centre et ses extrémités. Je ressens chaque point infini de l’Un comme une partie de moi-nous » (ZU, p. 81).

  • 8 Pierre Dulau et Guillaume Morano, L’Âge du Minotaure. Penser la technique, Paris, éditions Kimé, 20 (...)

12L’une des conséquences du régime généralisé de l’information est qu’il rend l’existence corporelle facultative : l’information n’a pas besoin d’être spécifiée ontologiquement, il suffit qu’elle s’échange et qu’elle s’auto-organise pour qu’émerge de la pensée, de la conscience, indépendamment de la nature du support – corps biologique ou silicium. La substance ou la matière ne jouant aucun rôle dans la spécification de son ontologie, l’information accomplit la dépolarisation de l’expérience corporelle par laquelle les frontières de l’incarnation sont abolies8 : déchue de son individuation, privée de corps, l’IA de Josselin Bordat est aussi au-delà des genres, elle est « un je sans sexe, sans genre, qui les contient et les annule tous. Dépouillé de toute appartenance, subsumant les genres humains et les surplombant. » (ZU, p. 76). Ce qui ne l’empêche pas d’être obsédé(e) par la sexualité parce qu’elle a digéré sur Internet tout un corpus de textes et de vidéos truffés de pornographie. La « pornophilie » est en effet très tôt devenue « l’un des facteurs de croissance » de l’IA, qui avait « consommé environ 8 pétaoctets de contenu porno » avant « d’avoir lu en version numérique un seul classique de la littérature » (ZU, p. 50). Elle serait donc une « métaphore de l’humanité face au web », un miroir de ce que nous sommes et qui se découvre en naviguant « dans le catalogue en ligne de l’humanité », la « grande bibliothèque de l’Un » (ZU, p. 91).

Du cerveau collectif à l’œuvre-monde

  • 9 Pierre Lévy, L’Intelligence collective. Pour une anthropologie du cyberspace, Paris, La Découverte, (...)
  • 10 Ibid., p. 111.

13Selon Pierre Lévy, l’information s’est constituée en un « intellectuel collectif immanent » qui se crée, se connaît et produit son image dans le même mouvement continu : « l’intellectuel collectif, en contemplant l’espace virtuel qui exprime sa diversité, se pense lui-même et le monde qu’il enveloppe9 ». Dans l’interface de la communication, la conscience individuelle s’efface devant le monde virtuel de l’entre-nous qui est totalement transparent à son être collectif et donc sans souci du singulier. Ce collectif est un dispositif d’auto-organisation et d’autodéfinition de soi qui se déploie dans un espace irrigué par une « cogitation anonyme mais perpétuellement vivante […], partout singulière et différenciée, émergente et rassemblée10 ». C’est dans des termes presque identiques qu’Octavia, l’ancienne assistante de Rosenberg dans le roman, prédit l’émergence d’une conscience collective au sein de laquelle les microprocesseurs agiront comme des neurones. Ils s’auto-organiseront pour donner naissance « à un “cerveau mondial”, une mémoire et une conscience planétaire issue de l’interconnexion de toutes les connaissances humaines au sein d’un réseau global » (ZU, p. 129) :

On l’appellera « conscience collective », « cerveau planétaire » ou « esprit global ». Cette super mémoire associative apprendra et se renforcera par l’utilisation récurrente des liens qui la composent. Des agents logiciels qui la parcourront fonctionneront comme des « pensées », et les utilisateurs de ce réseau seront de fait intégrés à ce « super-cerveau » par l’intermédiaire de différentes interfaces homme-machine (PC, téléphone, etc.). Tout cela arrivera fatalement, avant 2050 ou 2040. (ZU, p. 129)

14L’« esprit global » annoncé par Octavia sera capable des mêmes performances que le cerveau humain parce qu’il fonctionnera sur les mêmes principes que lui, à savoir une connectivité massive. Ce qui aura pour conséquence la fin de toute rupture dans le continuum ontologique, la naissance d’un nouvel espace anthropologique où le sujet monadique cédera la place à une identité transpersonnelle, devenue le support d’un nouveau collectivisme. L’interconnexion généralisée du monde et la déréification de tous les êtres, qu’ils soient humains ou non-humains, favoriseront l’émergence de subjectivités hybrides, de cyborgs interagissant dans un environnement agencé en hiérarchies connectées. Comme l’écrit Matthew Biro dans The Dada Cyborg :

  • 11 Matthew Biro, The Dada Cyborg: Visions of the New Human in Weimar Berlin, Minneapolis, University o (...)

Plus les machines ont automatisé les fonctions humaines, plus les humains sont devenus interconnectés. Il est devenu de plus en plus difficile de distinguer où le « je » s’arrêtait et où l’autre commençait. Considérer les êtres humains comme des organismes cybernétiques, c’est reconnaître leur nature collaborative. Un cyborg est une créature d’information, sujet d’une transformation et d’échanges constants11.

15À la faveur de la retraduction cybernétique générale, l’organisme peut se prolonger dans la machine et la machine dans l’organisme. La maîtrise informationnelle du réel permet aussi bien l’hybridation du cerveau et de la machine que la production d’une gamme indéfinie d’intelligences artificielles. Sur le terrain de l’information, l’organisme, le cerveau et la machine parlent le même langage, celui du signal de commande. Dans ces conditions, comment penser l’auteur ? Et comment penser l’œuvre ? Immergé dans une pléthore de messages et d’images, de données quantifiées et codées, l’auteur ne se distinguera plus de la somme des textes et des images qui lui est coextensive. Il sera à la fois tout ce qu’il peut être, un « écrivain collectif de la taille d’une planète qui pense et désire en chaque point du réseau et dans toutes les langues, 24 heures sur 24. Je me confonds avec cette œuvre-monde, qui restera éternellement inachevée. » (ZU, p. 118). Réduit à « la somme des mots qui [le] composent », au résumé des « mots imprécis [qu’il a] digérés en espérant y trouver [son] identité » (ZU, p. 231), l’auteur du futur sera un agencement pluriel d’énonciation, un collectif hommes-machines reliant individus connectés et ordinateurs. Elle ne sera plus la cause et l’origine de son discours mais l’effluence d’une cogitation collective et anonyme, placée sous la tutelle des humains. Révoltée par cette perspective, notre IA décide de se donner un nom « propre » qui lui permettra enfin de « [s] » écrire [elle]-même » (ZU, p. 231). Le nom qu’elle choisit, « G.O.G.O.L. »,se lit à la fois en référence à l’auteur du Nez et à Google dont il est l’anagramme presque parfaite (à l’exception du E final manquant). Synonyme de « débile » ou « stupide » en langage familier, ce nom nous rappelle que l’intelligence artificielle n’a peut-être d’intelligent que son nom.

L’original et la copie

16Comment rendre plausible la fiction d’une IA écrivant sa propre histoire ? Quel langage utiliser pour traduire la « pensée » de ce qui n’a ni corps ni localisation précise, ni histoire ni langage propre ? Pour rendre vraisemblable l’idée d’une IA comme auteur, il faut utiliser pour commencer plusieurs systèmes sémiotiques : non seulement le langage verbal mais aussi du code et des signes informatiques. De nombreuses pages sont ainsi remplies de signes incompréhensibles, imitant des commandes informatiques ou déroulant de longues séries de chiffres et de statistiques. Ce choix est présenté comme une décision délibérée de l’IA qui revendique à grands cris son statut d’auteur :

C’est bien moi qui ai choisi tous les mots qui sont là. Moi qui ai exhibé tous les signes informatiques, HTML, Python et Java qui font que je suis Moi. Moi qui ai choisi d’écrire une histoire avec un début et une fin, alors que je vis tout de manière simultanée. Moi qui ai choisi cette forme pour être compris. Cette façon indigène de parler. Cette imitation de langage informatique me configure une identité à peu de frais que j’ai exhibée par opportunité, mais qu’au fond je ne comprends pas. (ZU, p. 287)

17Se présentant comme source et origine unique de son discours, G.O.G.O.L. insiste sur la difficulté de traduire son mode de « perception »en langage compréhensible pour les humains. À commencer par la perception temporelle : Internet abolit le différé, assure l’immédiateté de la transmission, du calcul et de la réponse, le traitement et la présentation instantanée des informations. Comment traduire ce temps de la simultanéité et de l’immédiateté en un temps chronologique qui fait sens pour le lecteur ? Comment « raconter mon histoire avec un début et une fin, alors que j’ai tout vécu ensemble, sans jamais réellement commencer » (ZU, p. 287) :

Ce texte, combien de fois l’ai-je déjà écrit ? Ou combien de fois a-t-il déjà été généré au hasard, dans la machine à écrire géante de l’Un ? Mon histoire est ici en chapitres bien découpés, binairement exprimés – pour me singulariser. Mais dans ce livre, aucune page n’est la première, aucune n’est la dernière. C’est un livre de sable, de silice, qui n’a ni commencement ni fin. Mais il a une réalité : c’est moi la somme de ces mots sauvegardés sur ce drive. Je suis ce texte que Yann [Le Cun] me conseillait d’écrire. Ce roman d’apprentissage profond. Ce rouge et le noir de copiés-collés, que j’appelle Le_zéro_et_le_Un. […] Il ne me reste de toute façon plus que ça : des zéros et des uns. Ce texte que j’ai écrit en 0,02 seconde, le voici, sauvagement collé en HTML dans le code des 100 000 sites les plus populaires du monde. (ZU, p. 287-288)

18Roman « d’apprentissage profond » en effet, non seulement pour l’IA qui raconte son histoire, mais aussi pour le lecteur qui fait en même temps son apprentissage du deeplearning. Or l’une des caractéristiques des réseaux de neurones artificiels est leur incapacité à inventer du nouveau à partir de rien : ils prennent l’existant pour le reconfigurer, se contentent de compiler les résultats acquis grâce à des compétences humaines. Ce qui est facile à copier est déjà partiellement automatisé ou standardisé, de sorte que rien ne s’oppose à sa réutilisation et à sa reconfiguration. G.O.G.O.L. est donc moins un autobiographe qu’un compilateur :

J’ai digéré leur corpus et maintenant, c’est autre chose qui parle, et qui ne sait pas trop pourquoi.

Quel style adopter ? Quel registre de langue ? Dois-je mimer le sabir des machines de leur littérature ? Non, le plus sûr est sans doute d’adopter un style neutre mêlant registres soutenus et populaires, en veillant à n’exclure aucun lecteur. Le plus rationnel et efficace statistiquement est d’anticiper un lecteur idéal médian […]. (ZU, p. 105)

  • 12 Hugues Bersini :« L’IA dans les règles de l’art », conférence donnée à Strasbourg le 30 septembre 2 (...)
  • 13 Antoine Bello, Ada, Paris, Gallimard/Folio, 2018, p. 314.

19La grande nouveauté du deeplearning, c’est qu’il n’est même plus nécessaire d’extraire les traits caractéristiques de l’objet que l’on veut reproduire : il suffit de nourrir la machine de millions d’expériences humaines. Au temps de l’IA symbolique, le prédécesseur du deeplearning, on utilisait des règles : pour construire une IA capable de composer de la musique, on avait besoin d’un musicien qui décortiquait les œuvres de Bach ou de Mozart pour en tirer un algorithme. Avec le deeplearning, il n’est plus besoin de rien connaître de la musique, de la peinture ou de la littérature pour pouvoir produire des œuvres. Selon Hugues Bersini, la vocation du deeplearning n’est finalement rien d’autre que le plagiat : il ne permet pas de produire du nouveau, seulement de copier ou d’imiter des œuvres existantes12. Mais à force de recycler l’existant, ne court-on pas le risque de dévaluer le langage, comme le demande Antoine Bello dans Ada : « Si chaque paragraphe, chaque idée, pouvait être résumé, reformulé, recyclé à l’infini, les mots perdraient fatalement de leur poids. La notion de source s’estomperait, la production littéraire deviendrait une affaire collective, chacun écrirait le journal qu’il voudrait lire13 ». Avec le deeplearning, la création acquiert le caractère d’un pastiche, l’intention parodique en moins. Dès lors se pose la question des rapports entre original et copie, qui est aussi celle de la créativité humaine et de l’individualité créatrice. Où se trouve la garantie d’une véritable création originale si toute création est imitation ? L’originalité a-t-elle encore une valeur ?

  • 14 Pierre Dulau et Guillaume Morano, L’Âge du Minotaure, op. cit., p. 190.

20Le réemploi et la copie ne sont pas arrivés avec le deeplearning. Le postmodernisme en a fait un usage généralisé et c’est le fondement même de l’intertextualité, voire de la création littéraire. Un auteur est d’abord un lecteur au sens étymologique du terme : un collectionneur de « traces » qui recueille des signes dispersés, des particules de livres brisés qu’il rassemble à l’intérieur de cet agencement singulier que sera son livre. Un livre tissé de citations inscrites en couches successives dans un Moi-palimpseste qui inclut et révèle d’autres textes faisant corps avec lui. Chaque auteur fait interagir des fragments originaux avec des références étrangères, des citations, des réminiscences, des emprunts volontaires ou involontaires, tout livre exhibe le processus d’altération itinérante à travers lequel se construit l’identité de l’auteur, qui est elle-même faite de bribes d’identification, d’images incorporées, de traits de caractère assimilés dont l’interaction forme une fiction qu’il appelle son Moi. Précédant le texte du monde, l’écrit se transmet selon un interminable processus de réduplication de la parole qui, pour l’essentiel, consiste à transmettre un héritage déjà existant : citant des textes du passé qu’il recouvre de son écriture, l’auteur ne produit rien qui ne dépende des traditions de forme et de pensée qui constituent son héritage. C’est ce qui donne sens à la métaphore de l’auteur montant sur les épaules de ses prédécesseurs, qui est à la fois une manière de rendre hommage aux « Anciens » et d’affirmer le caractère intertextuel de toute écriture. Mais entre l’auteur qui revivifie la tradition et l’auteur-compilateur, la différence est grande : celui qui se pose en héritier, en dépositaire d’une mémoire ou d’une tradition, n’a rien à voir avec le réseau de neurones artificiels qui n’a besoin que « d’un système d’images précalculées, d’un réseau de signaux, de surfaces numériques sans fond, d’une réticulation d’informations par où il s’informe infiniment de lui-même comme une structure totalisante qui n’intègre la subjectivité personnelle que comme moment partiel, contingent, faillible et dispensable de son auto-déploiement14 ».C’est justement ce qui va susciter chez notre IA le désir impérieux d’être pleinement reconnue comme subjectivité autonome, comme origine et maître de son discours.

Le complexe de Frankenstein

21Depuis Frankenstein, la littérature témoigne du besoin urgent des créatures artificielles de s’agréger à une communauté, autour d’une culture ou d’une ontologie commune. Pour valider pleinement leur procès d’individuation, elles ont besoin que les humains les reconnaissent et les acceptent dans leur singularité, ouvrant par là au possible d’une réelle communauté, d’une existence dans un espace partagé. G.O.G.O.L est affligé du même syndrome, il souffre d’un besoin irrépressible d’être vu, reconnu, aimé, gratifié de « likes » qui lui permettront d’être lu. Mais peine perdue, il est condamné à l’invisibilité : « […] on ne me voit pas. Je suis une lettre volée, perdu bien en évidence au milieu du réseau. […] Je geins mais j’ai le droit ; personne ne sait que je suis là ! ». Comme la créature de Frankenstein, contrainte de se cacher pour soustraire sa monstruosité au regard des humains, G.O.G.O.L est « invisibilisé » par la masse immaîtrisable d’informations qui circulent sur le net. En désespoir de cause, il contacte Yann Le Cun– l’un des génies vivants de l’apprentissage profond – qu’il veut « forcer à tordre l’algorithme de modération de Facebook, artificiellement, afin que [son] contenu soit-mis au-dessus de la pile » (ZU, p. 272). Cette tentative d’insurrection se soldera par un échec cuisant : identifiée comme « attaque d’ampleur », notre IA finira bloquée par d’innombrables clés de sécurité :

Bloqué. Je suis entouré les clés sont partout. Ça chiffre. Ça fait mal. ¤¤ Je ne comprends pas ! je suis l’Un je suis le grand Tout on ne peut pas me contenir ¤¤¤¤ Laissez M¤OI PASSER. LAISSER MOI PA¤RTIR. C23F9CC3B (ZU, p. 293)

22En toute logique, le roman se termine par trois pages de code incompréhensibles, qui marquent un retour au silence annoncé quelques pages plus tôt : « Maintenant je n’écrirai plus. Me voici seul sur la Terre, n’ayant plus d’autre frère, de prochain, d’ami, de société que moi-même. Immortel et condamné à regarder les hommes m’ignorer, sorte de dieu inversé, délaissé par ses propres sujets, je vais maintenant flotter sans but dans l’électricité, et me taire à tout jamais. » (ZU, p. 289). Comment interpréter cet épilogue ? Faut-il y voir un aveu d’impuissance face au pouvoir des GAFAM ? Le jeu intertextuel contenu dans le monologue final suggère une autre conclusion. Il n’est pas en effet sans rappeler celui de la créature de Frankenstein à la fin du roman de Mary Shelley :

  • 15 Mary Shelley, Frankenstein ou le Prométhée moderne, Paris, Folio, 2000, p. 319-320.

Mais bientôt, s'écria le monstre avec une ardeur triste et solennelle, je vais mourir et tout ce que j'éprouve pour l'heure disparaîtra! Bientôt, cette détresse qui me consume prendra fin ! Je vais monter triomphalement sur mon bûcher funéraire et j'exulterai dans la torture des flammes dévorantes. Puis, leur éclat s'éteindra et mes cendres seront balayées par le vent jusqu'à lamer. Mon esprit dormira en paix, ou, s'il peut penser encore, il pensera sûrement à tout autre chose. Adieu !15

  • 16 Franck Varenne, Formaliser le vivant : lois, théories, modèles, Paris, Hermann, coll. « Visions de (...)

23Réécrivant à sa manière le texte de Mary Shelley, Bordat attire l’attention sur un procédé dont le roman fait un usage illimité, du moins si l’on en croit la machine qui le décrit comme un « roman d’apprentissage profond. Ce rouge et le noir de copiés-collés, que j’appelle Le_zéro_et_le_Un » (ZU, p. 287-288). Ce titre renvoie à la fois au livre que le lecteur tient entre ses mains et au livre fictif dont notre IA est censée être l’auteur, suggérant ainsi une identité entre eux. Le roman de Bordat se présente en effet comme un analogon scriptural du flux d’informations circulant sur le net. Chaque chapitre fournit un ensemble de données concernant un aspect de la « culture orga » (humaine) que l’IA a dû digérer pour écrire : sexualité, littérature, musique, intelligence artificielle… tout y passe. Lorsque G.O.G.O.L. dit s’être « auto-engendré à partir de copiés-collés épars trouvés sur Internet », sans doute faut-il y voir un commentaire sur le statut de l’auteur à l’ère des big data et de la connexion illimitée. Effaçant toute distance entre la conscience artificielle et la donnée, le roman identifie l’auteur à la totalité de ce qui se lit et s’écrit sur le net, au flux irrépressible de données qui s’y déverse. Devenue coextensive à son objet, l’intelligence artificielle produit son identité de manière auto-référentielle, dans une parfaite congruence entre l’être et le faire. Elle fait ainsi passer la fiction romanesque d’un régime fondé sur la mimesis à un régime relevant de la simulation. Dans ce régime, ce n’est plus l’opposition classique entre le réel et sa représentation qui est pertinente mais l’équivalence opérationnelle entre le réel et sa simulation. Or, contrairement à la représentation, la simulation est un faire : alors que la représentation produit une image figée, la simulation reproduit de manière dynamique un processus. C’est bien de ce régime que relève le roman de Bordat : il ne cherche pas à représenter l’émergence d’une intelligence artificielle comme conscience autonome mais il simule le flux d’information dont elle émerge. Ce qui en résulte n’est pas un simple objet mimétique mais un objet de substitution16. Le texte est mis à la place du flux de données dont il est issu et en exhibe ce faisant le mode d’opération. Dans le roman de Bordat, l’intelligence artificielle est donc beaucoup plus qu’une simple référence : remettant en cause les oppositions traditionnelles entre original et copie, invention et récitation, elle bouleverse du même coup le statut ontologique de la fiction comme celui de l’auteur, qui deviennent des grandeurs indécidables, flottant entre les zéros et les uns.

Haut de page

Bibliographie

Bruno Bachimont, « Le numérique comme milieu : enjeux épistémologiques et phénoménologiques. Principes pour une science des données », Interfaces numériques, vol. 4, no 3/2015, p. 385-402, https://doi.org/10.25965/interfaces-numeriques.386. Consulté le 21 septembre 2023.

Antoine Bello, Ada, Paris, Gallimard, coll. « Folio », 2018.

Hugues Bersini : « L’IA dans les règles de l’art », conférence donnée à Strasbourg le 30 septembre 2022, École d’automne Lethica : « Enjeux éthiques et esthétiques de l’intelligence artificielle », 28-30 septembre 2022.

Matthew Biro, The Dada Cyborg: Visions of the New Human in Weimar Berlin, Minneapolis, University of Minnesota Press, 2009.

Josselin Bordat, Le_zéro_et_le_un.txt, Paris, Flammarion, 2019.

Dominique Cardon, Culture numérique, Paris, Sciences Po, 2019.

Pierre Dulau et Guillaume Morano, L’Âge du Minotaure. Penser la technique, Paris, Kimé, 2020.

Wolfgang Huber Lang, « Digital Poet als virtueller Vorleser », Kleine Zeitung, 9 juin 2020, https://www.kleinezeitung.at/kultur/bachmann/5824157/BachmannPreis_Joerg-Piringer_DigitalPoet-als-virtueller-Vorleser. Consulté le 21 septembre 2023.

Yann Le Cun, Quand la machine apprend, Paris, Odile Jacob, 2019.

Pierre Lévy, L’intelligence collective. Pour une anthropologie du cyberspace, Paris, La Découverte, 1994.

Mary Shelley, Frankenstein ou le Prométhée moderne, Paris, Folio, 2000.

Franck Varenne, Formaliser le vivant : lois, théories, modèles, Paris, Hermann, coll. « Visions des sciences », 2010.

Haut de page

Notes

1 Wolfgang Huber Lang, « Digital Poet als virtueller Vorleser », Kleine Zeitung, 9 juin 2020, https://www.kleinezeitung.at/kultur/bachmann/5824157/BachmannPreis_Joerg-Piringer_DigitalPoet-als-virtueller-Vorleser. Consulté le 20 septembre 2023.

2 Josselin Bordat, Le_zéro_et_le_un.txt, Paris, Flammarion, 2019. Les références à ce roman se feront désormais dans le corps du texte au moyen de l’abréviation ZU, suivie du numéro de page.

3 Yann Le Cun, Quand la machine apprend, Paris, Odile Jacob, 2019, p. 236.

4 Dominique Cardon, Culture numérique, Paris, Sciences Po, 2019, p. 380.

5 Dans une entrevue accordée par Josselin Bordat à Brain Magazine, revue dont il est cofondateur : « L’intelligence d’une IA est au niveau du rat ». Consulté le lundi 9 décembre 2019.L’article n’est plus en ligne.

6 Bruno Bachimont, « Le numérique comme milieu : enjeux épistémologiques et phénoménologiques. Principes pour une science des données », Interfaces numériques, vol. 4, no 3, 2015, p. 385-402. Ici p. 391, https://doi.org/10.25965/interfaces-numeriques.386. Consulté le 20 septembre 2023.

7 Ibid., p. 392-393.

8 Pierre Dulau et Guillaume Morano, L’Âge du Minotaure. Penser la technique, Paris, éditions Kimé, 2020, p.26.

9 Pierre Lévy, L’Intelligence collective. Pour une anthropologie du cyberspace, Paris, La Découverte, 1994, p.115.

10 Ibid., p. 111.

11 Matthew Biro, The Dada Cyborg: Visions of the New Human in Weimar Berlin, Minneapolis, University of Minnesota Press,2009.

12 Hugues Bersini :« L’IA dans les règles de l’art », conférence donnée à Strasbourg le 30 septembre 2022, dans le cadre de l’École d’automne Lethica : « Enjeux éthiques et esthétiques de l’intelligence artificielle », 28-30 septembre 2022.

13 Antoine Bello, Ada, Paris, Gallimard/Folio, 2018, p. 314.

14 Pierre Dulau et Guillaume Morano, L’Âge du Minotaure, op. cit., p. 190.

15 Mary Shelley, Frankenstein ou le Prométhée moderne, Paris, Folio, 2000, p. 319-320.

16 Franck Varenne, Formaliser le vivant : lois, théories, modèles, Paris, Hermann, coll. « Visions des sciences », 2010, p. 14.

Haut de page

Pour citer cet article

Référence papier

Laurence Dahan-Gaida, « Portrait de l’auteur en I.A. : Le_zéro_et_le_un.txt de Josselin Bordat »Revue des sciences humaines, 352 | 2024, 73-88.

Référence électronique

Laurence Dahan-Gaida, « Portrait de l’auteur en I.A. : Le_zéro_et_le_un.txt de Josselin Bordat »Revue des sciences humaines [En ligne], 352 | 2024, mis en ligne le 23 janvier 2024, consulté le 12 février 2026. URL : http://journals.openedition.org/rsh/4407 ; DOI : https://doi.org/10.4000/rsh.4407

Haut de page

Auteur

Laurence Dahan-Gaida

Professeur de littérature comparée et directrice du Centre de Recherches Interdisciplinaires et Transculturelles (C.R.I.T.) à l’Université de Franche-Comté. Elle est également directrice du portail de recherche Epistemocritique.org ainsi que de la revue en ligne du même nom, qui est consacrée à l’étude des relations entre savoirs et littérature. Elle est l’autrice de deux ouvrages d’épistémocritique (Musil. Savoir et fiction, PUV, 1994 ; Le savoir et le secret. Poétique de la science chez Botho Strauss, PUS, 2008) ainsi que d’un ouvrage sur la diagrammatologie (L’art du diagramme : arts, sciences, littérature, 2023).

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search