Navigation – Plan du site

AccueilNuméros28ReviewsRêveries machinales

Reviews

Rêveries machinales

Labatut Benjamin, MANIAC, trad. D. Fauquemberg, Grasset, Paris, 2024.
Mechanical daydreams
Jean-Pierre Cléro

Résumés

Si MANIAC est un livre d’éthique, ce n’est certainement pas dans le sens où il pourrait être un livre de repentir de ces pionniers de la théorie des jeux qui ont parfois préconisé, dans leurs calculs, une guerre nucléaire au lendemain même de la seconde guerre mondiale pour mieux assurer une paix durable ; mais si c’est en un sens délibérément anti-humaniste que l’ouvrage est conduit, c’est pour la raison - constamment mise en scène - que les machines intelligentes inventées par les hommes sont celles par lesquelles les intelligences vivantes, « humaines », se dépassent elles-mêmes et se créent des sortes de dieux auxquels on aurait peut-être tort de donner un sens religieux. Curieusement et paradoxalement, c’est peut-être chez Bergson que l’on pourrait le mieux voir l’origine dans les techniques de ce par quoi les intelligences « humaines » se dépassent elles-mêmes et se font volontiers religieuses. Chez l’auteur des Deux Sources de la morale et de la religion, certes, mais aussi dans le Phèdre de Platon quand le roi Thamous ne s’en laisse pas compter par le dieu Theuth qui lui vante les mérites de quelques techniques dont le calcul et l’écriture et quand il discute que les dieux ne sont pas les mieux placés pour juger de l’avantage ou du désavantage pour les hommes de l’invention de telle ou telle technique. De manière un peu énigmatique, Labatut prétend avoir écrit un roman, alors que le texte pullule d’événements historiques rapportés à la façon de témoignages. Peut-être s’agit-il d’un roman que l’on qualifiait volontiers au XVIIIe siècle de « philosophique », pourvu que l’on comprenne qu’il engage une réflexion philosophique pour notre temps sur les machines « intelligentes ». Le roman est un intermédiaire qui permet d’esquisser l’allure qu’une philosophie des machines pourrait avoir si on savait l’écrire. Certes, il ne s’agit certainement pas de penser les techniques selon le modèle de la philosophie transcendantale kantienne ; Kant ne s’y est d’ailleurs nullement aventuré. Mais il se pourrait que MANIAC fût l’esquisse de la philosophie qu’attendaient les œuvres de Von Neumann, d’Harsanyi et de beaucoup d’autres encore ; et c’est bien le roman qui, pour l’heure, emplit heureusement cette place manquante.

Haut de page

Texte intégral

  • 1 Symptôme partagé par plusieurs mathématiciens, dont Cantor, par exemple, si l’on en croit Theodore (...)

1B. Labatut a écrit en 2023 un étrange livre, dont le titre est à double sens ; sans doute renvoie-t-il à un symptôme pathologique1, mais aussi au nom du premier ordinateur moderne, né à la fin de la deuxième Guerre mondiale, et baptisé du nom de Mathematical Analyzer, Numerical Integrator and Computer ou Analyseur mathématique, intégrateur et calculateur numérique, qui est au fondement de ce que nous appelons aujourd’hui ordinateur et Intelligence artificielle lesquels influencent, sculptent, enveloppent un nombre incalculable de nos actes, de nos façons de pensée et de nos vies.

  • 2 Harsanyi J., L’éthique et le comportement rationnel, Hermann, Paris, septembre 2022.
  • 3 Labatut fait dire à Morgentern que Von Neumann « fut l’un des premiers à préconiser ouvertement une (...)
  • 4 Le terme d’apocalypse n’étant d’ailleurs pas le mieux choisi, car il signifie, sous la plume de Jea (...)

2 Si j’ai demandé à la Revue des Études Benthamiennes la possibilité de rendre compte de cet ouvrage dont la traduction vient de paraître chez Grasset sous la plume de D. Fauquemberg, c’est pour rédiger ce qu’on pourrait appeler un second « Après-coup » de ma présentation et de ma traduction du livre de J. Harsanyi sur L’éthique et le comportement humain2, dont j’aurais probablement écrit la Préface d’une tout autre façon si les dates de parution eussent été inversées. Je ne mesurais pas, en 2022, avant de lire le livre que je présente ici et qui vient de paraître, combien d’excellents mathématiciens et physiciens ont pu être impliqués dans la conception et la réalisation des bombes atomiques qui ont, pour la première fois, explosé, à Hiroshima et à Nagasaki en 1945, faisant 250.000 morts dont l’immense majorité était constituée de civils, hommes, femmes et enfants ; et combien la théorie des jeux a d’abord eu un champ d’action militaire dans lequel Von Neumann, par exemple, s’est particulièrement illustré dans le camp de ceux que l’on pourrait appeler les « faucons » de la guerre froide qui a aussitôt suivi la Seconde Guerre Mondiale3. Je comprends mieux pourquoi J. Harsanyi a tenu à écrire dans les années 50 et 60 toute une série d’articles auxquels nous nous sommes particulièrement intéressés en les traduisant et en les commentant. Je ne veux nullement suggérer qu’il s’agit d’articles écrits par quelque coupable repentir ; mais il y avait sans nul doute une urgence dont le degré m’a d’abord en partie échappé : celle d’arracher les calculs de la théorie des jeux à la simple stratégie sans frein moral ni éthique, sinon comme paramètres parmi d’autres. Si Harsanyi s’est trouvé, comme certains de ses collègues mathématiciens, à une dizaine d’années près, parmi les immigrants - souvent hongrois - mêlés aux affaires militaires états-uniennes, il n’a probablement pas souscrit aux déclarations les plus belliqueuses et les plus inhumaines de Von Neumann ; du moins pas à celles que prête le romancier à ce dernier, plus exactement au co-auteur de la Théorie des jeux et du comportement économique, qui reconnaît avoir tordu la doctrine en un sens monstrueux, puisqu’elle voulait initialement « assurer la paix globale en nous conduisant au bord de l’Apocalypse4 ».

3 Mais d’abord, avons-nous affaire, avec MANIAC à un roman tel qu’il en porte la mention sur la couverture et en première page ? Le premier texte est le récit biographique d’un physicien, ami d’Einstein, qui devient fou, assassin de son fils handicapé, avant de se donner la mort. Les autres textes sont plus ambigus ; ils concernent des aspects de la personnalité de Von Neumann envisagés de divers points de vue - de sa mère, de son frère cadet, de certains de ses collègues, et néanmoins amis -, de ses ennemis, de ses épouses successives, de personnes susceptibles de faire son éloge funèbre, qui sont censés avoir bien connu le personnage, le professeur, le chercheur, le conseiller, l’époux, dont chacun donne un éclairage particulier à son travail et à sa vie, sans que l’on sache trop de qui viennent ces textes à qui on les attribue et à qui ils sont adressés. Le lecteur ne peut guère avoir d’autre posture que celle d’un intrus dans des discours qui ne lui sont pas tout à fait destinés, en un porte-à-faux fascinant, qui le tient en haleine jusqu’au bout. Il glane au passage des informations qui paraissent ne pas lui avoir été destinées. Et puis il y a l’extraordinaire troisième partie ou faisceau de textes qui relatent sur le mode d’une sorte d’épopée comment des joueurs d’échecs, et puis finalement des joueurs de go, mondialement connus, affrontent des ordinateurs et se font battre par des machines qui leur sont devenues invincibles. Toutefois, c’est moins l’héroïsme des joueurs et l’affrontement par ceux-ci de machines qui furent conçues par des hommes qui nous intéressent que la mise en scène d’un tournant majeur de la vie des machines « intelligentes », telles qu’elles sont nées lointainement dans le passé sans doute, mais parvenues à un point d’inflexion où elles paraissent s’émanciper de leur créateur. Si MANIAC est un roman, c’est un roman philosophique des XXe et XXIe siècles. Et le texte, parfois drôle, parfois tragique au point d’en être terrifiant, en tout cas pullulant d’anecdotes qui sont loin de n’être que des récits contingents et insignifiants, dit, dans la langue ordinaire, des choses qu’il serait compliqué de dire par concepts et qu’il parvient à intimer au lecteur avec une facilité et une précision extraordinaires. Entre les anciennes machines, les êtres vivants, les dieux, les discours mathématiques et les symbolismes de tous ordres, Labatut trace une voie que seule une nouvelle espèce de machines peut emprunter, d’abord avec leurs ingénieurs, puis en se détachant d’eux, et finalement en s’autonomisant de leurs créateurs d’une façon tout-à-fait inédite.

4 En dépit de son kaléidoscope de tons, le livre n’a qu’un auteur. Tout se passe comme si l’ouvrage publié au début de l’année 2023 par Marchaisse sur Pascal avait été écrit par un seul écrivain ; c’est sans doute cette unification kaléidoscopique qui donne au livre toute sa puissance.

5 Même s’il ne présente pas les choses ainsi, Labatut inscrit le devenir des ordinateurs et de l’intelligence artificielle dans une temporalité longue ; celle d’abord des machines à calculer qu’il fait bien consonner avec des esquisses de théorie des jeux comme on en voit les premiers essais convaincants chez Pascal. Les contemporains de Pascal ont, en effet, tout de suite remarqué qu’ils avaient affaire à des machines différentes de celles qu’ils avaient vues et pratiquées jusque-là en ce qu’elle se substituaient à l’intelligence humaine dans des fonctions qui paraissaient lui appartenir en propre. Mais il est clair que ces machines ne pouvaient fonctionner sans un couplage élémentaire aussi étroit que celui que les hommes avaient toujours connu avec les machines mécaniques.

6 Toutefois, on sentait bien que, dans les débats contre les théistes, les philosophes sceptiques et agnostiques laissaient apercevoir que ce n’est pas parce qu’une machine est une mécanique prodigieusement complexe qu’elle doit avoir à son principe un artisan divin supérieur. Hume, dans les Dialogues concernant la religion naturelle, avait mis beaucoup d’intelligence à montrer que les êtres qui annoncent le plus d’intelligence n’en requièrent pas forcément beaucoup au principe de leur conception, en particulier lorsqu’elle est devenue routinière. Le fameux argument humien de la construction du superbe bateau qui ne fait que répéter des gestes ancestraux pouvait encore sembler de peu de poids en comparaison de la structure infiniment complexe de l’œil laquelle pouvait paraître nécessairement requérir un artifex maximus ; or, au fil du temps, deux grandes étapes vont rendre plausible la réponse de Philon (le personnage de Hume) au théisme (de Cléanthe) qui, à la fin du XVIIIe siècle pouvait encore s’estimer vainqueur.

  • 5 J.-S. Mill ne soupçonne pas que c’est plutôt de millions d’années dont il s’agit.

7 La première de ces étapes est sans doute celle du darwinisme dont J.S. Mill fait encore prudemment usage dans ses Trois essais sur la religion : les très petites variations que l’on repère dans la suite des générations fabriquent, en s’accumulant, des êtres qui peuvent jouir d’avantages par rapport aux précédentes sans que l’on n’ait à faire intervenir un créateur qui, d’un coup, procurerait des avantages prodigieux à tel ou tel organe ou tel ou tel organisme. Les milliers d’années5 y pourvoient.

8 La seconde des étapes est sans nul doute l’épanouissement de la conception « machiniste » des démonstrations. Démontrer consiste, dans cette façon de comprendre les mathématiques, qui est celle de Pascal - et qui, avant lui, était, sans nul doute, celle d’Archimède -, à construire une machine qui se substitue au problème posé pour lui apporter une solution, c’est-à-dire celle du moins qui laisse le moins de hiatus possible entre ce qui est demandé et ce qu’on propose pour répondre à cette demande et en quelque sorte la résoudre. L’approximation devient un point extrêmement important et ce n’est pas un hasard si cette façon de comprendre les démonstrations provient aussi de l’esprit d’un des grands inventeurs du calcul des probabilités autant que de celui du technicien qui met au point la première machine capable de se substituer à l’intelligence humaine.

  • 6 Demis Hassabis, l’un des contributeurs à la fabrication d’AlphaGo, fait ressortir avant un match sp (...)
  • 7 P. 350 .

9 Ce que Neumann et ses collègues et parfois amis ont ajouté à cette conception de la machine, avant de la faire passer du statut symbolique au réel, c’est non seulement de fabriquer des machines programmées pour accomplir des tâches, mais des machines qui s’auto-programment en fonction de circonstances et des obstacles qu’elles peuvent rencontrer de manière aléatoire ; sans doute en raison des millions voire des milliards de combinaisons dont elles peuvent faire le calcul en un temps qu’aucun homme ni aucune lignée d’hommes ne pourraient jamais consacrer à les faire, mais encore choisir, parmi ces innommables branches d’arbres constituées de calculs, lesquelles pourraient être les plus plausibles pour résoudre un problème. La notion de probabilité et celle de son calcul affectent la sélection même de solutions proposées par un calcul. Les machines conçues par Von Neumann, capables d’affronter les aléas6, prennent aussi des risques7. L’autogestion des programmes qui conviennent peut elle-même se dispenser dans d’innombrables circonstances d’une intervention humaine au coup par coup comme si elle était indispensable pour être orientée ou redressée. Les calculs corrigent les calculs et, d’une certaine manière, les pensent et en tirent avantage pour agir.

  • 8 La machine n’a plus pour fonction de « copier nos pensées lentes et nos processus logiques tortueux (...)
  • 9 Comme on en trouve un sous la plume de Sydney Brenner : pour fabriquer une machine auto-réplicative (...)
  • 10 Dans son roman, Labatut montre comment la machine qui devait se spécialiser dans le jeu de go au po (...)
  • 11 Labatut met en scène des coups estimés « impensables » par de nombreux experts. voir p. 435.

10 Ce débordement de l’intelligence humaine par la machine a été rendu possible par une intelligence qui accepte de laisser ses insights, ses intuitions, ses évidences être largement dépassés dans leur jeu avec le symbolisme avant de savoir inscrire ces dépassements dans l’être même. L’intelligence, loin de se trouver bornée par la non-compréhension, l’accepte, s’en empare, la fabrique, dépassant le vernaculaire et ce que Descartes appelait l’évidence ou ce que Hume appelait la « conception ». La machine que Neumann projette, met en place et programme est un produit symbolique ; le rapport de l’homme aux machines ne peut plus du tout être une relation qui se contente de les rendre dépendantes de notre propre intelligence. La non-compréhension qui est la marque du symbole peut aussi donner lieu à des machines existantes dont nous ne « comprenons » pas complètement le fonctionnement dans le sens même où, comme l’expérimentait Leprince-Ringuet dans certaines de ses leçons à l’École Polytechique, un homme très intelligent peut enseigner des idées qu’il ne comprend pas entièrement et que ses étudiants « comprennent » mieux que lui ; mais encore dans le sens où un joueur très intelligent n’est pas forcément capable d’avoir entièrement compris un coup qu’il a pourtant joué. Le monde technique n’est plus fait de machines qui imitent l’intelligence humaine en vue de la soulager8 ; l’intelligence du technicien fabrique son propre dépassement dans le monde technique de telle sorte qu’elle ne peut pas davantage prévoir son « évolution » que la sienne et celle des vivants qui, soumis à l’évolution, l’entourent. Par un curieux et paradoxal retour au platonisme dont on se croyait à jamais délivré, Barricelli était, pour sa part, convaincu que les nombres pouvaient acquérir une vie propre » (p. 233). C’est plutôt en réservant ce discours aux machines que Von Neumann attribuait cette propriété d’autonomie. La machine est non seulement ce par quoi l’intelligence se dépasse - ce qui pourrait faire ressembler ces discours sur les machines à des discours de conditions de possibilité9 - mais elle fait encore exister l’invention de son dépassement, se faisant partenaire d’un jeu dont elle ne peut pas dire qu’elle a le contrôle exclusif ; la machine apprenant par une méthode d’échecs et de réussites10, et allant jusqu’à faire des suppositions (p. 253). Elle peut jouer des coups impensables, imprévisibles11. L’humaniste qui s’agrippe au dogme que la machine ne peut guère fonctionner sans que l’homme ne soit à son principe devrait s’interroger sur le dépassement par le symbolique de l’intuitif et sur la possibilité de se donner un réel par ce dépassement lui-même. Le malheur est que Von Neumann ne le rappelait pas aux humanistes sans cynisme - celui-là même qu’arbore désormais un nombre non négligeable de chercheurs de la Silicon Valley - ; c’est ainsi qu’il rétorque, sans apprêt, à une personne qui lui demandait s’il ne s’inquiétait pas du lieu où le pouvoir de l’atome allait nous mener : « Je réfléchis à quelque chose de beaucoup plus important que les bombes, ma chère. Je réfléchis aux calculateurs numériques » (p. 195). Il aurait pu le faire avec l’ironie du Phèdre, lorsque Platon fait remettre le dieu Theuth à sa place par un roi, Thamous, qui lui explique que ce par quoi l’intelligence se dépasse - comme la mémoire est dépassée par la permanence de l’écriture - n’est pas forcément à l’avantage de l’homme.

  • 12 Eugene Wigner le souligne particulièrement peut-être dans ce que lui fait dire Labatut sous la form (...)

11 Le problème que Pascal, Leibniz, Hume n’avaient pas envisagé et que l’on peut saisir et presque toucher du doigt chez Neumann, c’est que donner l’existence à un dépassement de l’intuitif et du vernaculaire par le symbolique et le laisser se répliquer ainsi, n’est pas forcément dire le vrai et n’est pas forcément dire et faire le bien. La frénésie qui s’empare de certains hommes pour faire exister des symbolismes d’une extraordinaire puissance n’est pas forcément éthique12. Le livre s’inquiète légitimement de la question de savoir ce que la théorie des jeux appelle l’autre. Il n’a plus rien à voir avec l’autrui des religions, ni avec le prochain. Il est celui qui joue en s’efforçant de prendre le contrôle de mon jeu tandis que je m’efforce de faire de même avec le sien ; indéfiniment jusqu’à l’épuisement du contrôle des possibles par l’un des joueurs. Rien ne dit que, par cet impensable qui se réalise, ne soit donné lieu à quoi que ce soit de vivable. La fabuleuse invention de machines par laquelle l’esprit se dépasse lui-même peut être le trop célèbre éclair blanc tel qu’il n’en fut jamais sur la terre et dans le ciel, qui prélude à l’assassinat de centaines de milliers de personnes - aujourd’hui : qui pourrait être celui de millions d’hommes.

12 L’urgence désormais, n’est pas d’opposer quelque luddisme moderne à l’encontre des nouvelles machines mais de se demander, nous autres hommes, ce que nous avons à faire dans un nouveau partenariat que nous avons créé avec les machines, sans forcément le limiter à quelque contrat tout fait et profondément réactionnaire, mais sans non plus appeler éthique ce que Hume dénonçait sous le nom d’enthousiasme dont il voyait la dangereuse exaltation religieuse mais encore tellement artisanale en comparaison de celle qui se déploie sous nos yeux chez certains chercheurs de la Silicon Valley.

  • 13 Labatut rédige des pages poignantes quand il fait écrire par Barricelli la souffrance que celui-ci (...)
  • 14 « Je ne sais comment j’ai fait pour supporter cet homme, dit Klára Dan. On ne pouvait tout bonnemen (...)

13 C’est sans doute aussi l’une des caractéristiques de MANIAC de manier - par delà la tragédie - l’ironie et l’humour à l’égard de ce monde des savants qui, pionniers de la théorie des jeux, croient parvenir à la réduction des affects - et pas seulement des démonstrations - à de purs jeux structuraux que les mathématiques savent traiter et ramener à des sortes de machines ; le symbolique prenant ainsi délibérément la place de l’intuitif et du passionnel. Mais, comme l’avaient fait avant lui Nietzsche et Michel Henry, Labatut montre combien ces actes scientifiques - tout particulièrement ceux de la théorie des jeux - n’existent pas sans un débordement vécu de mesquinerie, de honte de ceux qui s’y livrent à se sentir dépassés par l’intelligence de leurs pairs, d’accusations réciproques - plus ou moins bien fondées - de plagiat avec la meilleure foi du monde ou plutôt avec la plus dévergondée des mauvaises fois13, de disputes incontrôlées avec l’épouse et de graves difficultés familiales de toutes sortes14. Ces « génies » sont plus souvent embarrassés dans leur vie personnelle que par l’informatique mise en œuvre par les problèmes qu’ils cherchent à résoudre ; le surmenage mais aussi l’alcoolisme n’y étant pas pour rien.

  • 15 « Il m’a implorée, suppliée d’avoir un enfant, et je crois que la stérilité de notre mariage, à tou (...)
  • 16 Cette fois, c’est Sydney Brenner qui transforme Von Neumann en prophète.

14 Ces questions nous touchent peut-être d’autant plus que nous nous sommes intéressés à la psychologie des actes de la science et aux dessous ou à l’envers affectifs du conceptuel. Pas tout à fait comme l’auteur qui procède à la façon de Molière et qui nous fait parfois franchement et férocement rire quand il laisse l’épouse de Neumann recourir à une explication psychanalytique assez « sauvage » et à une causalité plutôt abrupte du brusque intérêt de son mari pour la biologie la plus spéculative, après s’être si longtemps absorbé dans la théorie des jeux et la conception de bombes atomiques : le couple qu’il forma avec Klára Dan ne pouvant pas avoir d’enfants, le mari aurait fini par compenser cette déception par des recherches en biologie15 « de sorte que, si l’on écrivait une histoire des idées, on pourrait clairement affirmer que la description de l’ADN - et plus encore, celle du jeu de l’ADN et de l’ARN - par Watson et Crick a été préfigurée par von Neumann près d’une décennie plus tôt » (p. 240-241)16 ! C’est aussi dans un imaginaire digne du Diderot des Lettres à Sophie Volland que Sydney Brenner, l’un des auteurs délégués ou « conviés » par Labatut afin de témoigner en faveur ou en défaveur de ses héros, nous demande de nous figurer un envoi, dans l’espace intersidéral, des machines capables de s’auto-construire : « elles se poseraient sur des rivages extraterrestres, récolteraient les matériaux nécessaires pour assembler des codes par elles-mêmes, puis enverraient leur descendance améliorée dans un périple sans fin dans le vide intersidéral, sans cesse plus loin, semant leur progéniture partout dans l’univers et continuant de prospérer longtemps après l’extinction de la race humaine. En théorie, une seule sonde de von Neumann voyageant à cinq pour cent de la vitesse de la lumière serait capable, à force de réplications, de coloniser l’ensemble de notre galaxie en quatre millions d’années » (p. 241). Le lecteur aimera sans doute ces rêves à mi-chemin entre ce que les hommes savent faire des machines ou plutôt ce qu’elles savent faire d’elles-mêmes et l’expérience de pensée quand ce n’est pas de la pure fiction.

  • 17 « Comment des trous pouvaient-ils transmettre des informations ? » (p. 78-79).

15 Le vide : sa pensée n’est-elle pas le point commun à ces auteurs qui, de Pascal à von Neumann, en passant par Boyle et Newton, le verront tarauder, fracturer, disperser, mais aussi réunir en d’improbables et fragiles synthèses, le peu de choses qui existe, réduit à de pâles phénomènes et à des événements si évanescents ? N’y a-t-il pas une consonance entre le vide sur lequel les classiques tentent d’expérimenter en statique, puis en dynamique, et celui dont il est usé en théorie de l’information où les cartes perforées des milliards de fois finissent par nous retirer toute maîtrise de ce qui fut nos créations17 ? De ce vide de la pupille que Boyle voit jouer avec le plein de l’uvée, n’y a-t-il pas quelque rapport avec l’information qui déborde les hommes de toutes parts, pour le meilleur et pour le pire, dans le jeu de ce que les machines sont capables de retenir et d’amplifier, en leur assurant ainsi une sorte d’autonomie ? Peut-être, si, comme Labatut paraît en reprendre la suggestion à Sydney Brenner, « on écrivait une histoire des idées », on verrait la théorie de l’information, la théorie des jeux, plonger ses racines lointaines dans les travaux de Pascal et de Boyle, dont on sait ce qu’on leur doit dans la conception des probabilités et dans leur calcul, autant que dans l’étude de la statique et de la dynamique du vide.

  • 18 « Les hommes des cavernes ont créé les dieux, a-t-il déclaré. Je ne vois aucune raison qui nous emp (...)

16Il est difficile de décrire la jouissance que le lecteur peut ressentir à lire ce livre de bout en bout, sans en sauter une phrase ; la main toujours alerte et le stylo toujours prêt à recueillir quelque trait paradoxal qui fait constamment mieux comprendre l’étrange statut que les machines occupent désormais parmi nous : nous les sommes autant qu’elles nous sont, dans leur étrangeté même, dans leur dépassement même de notre intelligence et c’est bien ainsi que nous les voulons et ne les voulons pas parce qu’elles se veulent aussi elles-mêmes. Cette transcendance dans son imaginaire, n’est pas sans effets réels, comme en avaient les dieux d’autrefois et le Dieu des théistes de l’âge classique. Eugene Wigner s’étonne et s’inquiète de la part croissante que son ami accorde au religieux à la fin de sa vie lorsque celui-ci lui déclare que « les dieux sont une nécessité biologique. Une partie tout aussi intégrante que le langage ou le pouce opposable » (p. 281-282) - cet intérêt sera confirmé par Nils All Barricelli18. Mais c’est cet étonnement qui est étonnant, car comment avait-il pu lui échapper qu’il y a une mystique des machines chez Neumann, sans laquelle son travail, qui s’est longtemps cru athée peut-être, eût été impossible ? J’ai gardé le souvenir d’une remarque que L. Sfez a faite dans les années 60, qui rapportait, dans sa Critique de la décision, un fait qu’il ne semblait pas pouvoir s’expliquer : que les savants de la Silicon Valley étaient des esprits religieux dans une proportion inattendue. Nous ne disons pas que ce fait est ici expliqué ; mais il est au moins approché et rendu plausible comme étant moins contradictoire qu’il ne pourrait l’être superficiellement. Bergson avait déjà pertinemment montré - même s’il ne pensait pas aux mêmes machines que Labatut - que le religieux est fils des techniques plutôt que du savoir, à condition toutefois de ne pas oublier que le savoir est une composante fondamentale des techniques, sans être la seule.

  • 19 C’est à Theodore von Kármán que Labatut fait dire : « La construction de l’univers mathématique res (...)
  • 20 En faisant une lecture « ascétique » de cette locution, Nietzsche, même s’il voit dans le système p (...)

17 Que l’on réfléchisse, pour apaiser cet étonnement, au fait que le religieux est compris par J. von Neumann comme une espèce de faisceaux de discours donnant forme à du vide, exactement comme les machines dont il s’occupe le font sur leurs modes propres ; de même que le font les mathématiques19 et toutes les autres activités humaines. Ce que Barricelli fait constamment ressortir, c’est que l’inscription des machines dans l’être d’une transcendance n’est pas forcément athée ; faire exister la transcendance n’équivaut pas à un remplacement de Dieu, mais bel et bien à un mode d’être auquel l’être divin a affaire. Ce qui est divin, ce n’est pas la position en soi du transcendant, mais c’est l’existence de la transcendance se faisant ; et par là, la machine est cet être, non pas fait, mais se faisant. Et, dès lors, il n’y a pas lieu de tenir sur elle le discours restrictif et rabougrissant : « ce n’est qu’une machine ! » qui n’a pas plus de loyauté que celle de dire des dieux : « ce ne sont que des dieux ! ». Pascal ne combine-t-il pas une authentique piété avec une inoubliable invention de machines, avec aussi une conception de ses démonstrations comme autant de machines et enfin avec le prodigieux « Abêtissez-vous » qui veut que l’homme accomplisse sa conviction par la « machine »20.

18 L’un des plus beaux paradoxes peut-être et, à coup sûr, l’un des raffinements les plus émouvants parce qu’il parfait la dernière touche du religieux dont nous parlons, se trouve en ce que Labatut fait dire à l’un de ses épistoliers que, pour se mesurer aux humains - pour jouer contre eux et gagner même à coup sûr contre les meilleurs d’entre eux, par exemple -, il faudrait, « si elles voulaient, un jour, acquérir une véritable intelligence, qu’elles fussent faillibles : elles devraient être capables, non seulement de commettre des erreurs et de s’écarter de leur programmation originelle mais aussi de se comporter de manière aléatoire et même absurde » (p. 244). Faillibles par excès d’infaillibilité.

19Pour conclure : on a très probablement affaire, avec ce livre et quelques autres, à la création d’un genre littéraire. Que cette création consistât soit en plusieurs auteurs s’adressant à un autre auteur sur un mode assez relâché sur le plan de la précision et de la possibilité historiques et qui puisse prendre toutes les allures imaginaires possibles, soit en plusieurs auteurs dont la précision historique est attendue sur le même thème, mais alors en choisissant un thème étonnamment particulier et resserré (le Pascal intempestif du Colloque du Collège de France [2013]) ; soit enfin - et c’est bien ce qui caractérise MANIAC - en un seul auteur prêtant à des épistoliers qui vécurent réellement des propos imaginaires concernant quelques personnes (en petit nombre) sur des thèmes différents mais convergents, entrelacés de telle sorte qu’ils se fassent écho les uns aux autres sous des angles très différents.

  • 21 Marx K., Œuvres, Économie, Introduction générale à la critique de l’économie politique, La Pléiade, (...)

20 L’auteur fait preuve d’un merveilleux sens des formules qui donnent un imaginaire pour notre temps autrement que sous la forme d’un répulsif moralisant à l’égard des machines ; une sorte d’épopée, non dépourvue d’humour, narrant et exaltant la conquête d’un machinisme pour notre temps. C’est chez J. von Neumann, cité sans référence par Labatut, que l’on trouve la plus belle formule du livre : « Vous soutenez qu’il y a une chose qu’une machine ne peut pas faire. [Von Neumann fait évidemment allusion ici au fait qu’on a souvent dit que les machines ne peuvent pas penser (Descartes), qu’elles ne peuvent pas parler, ou - si elles peuvent penser - qu’elles ne peuvent pas sentir (Pascal)]. Si vous me dites précisément ce qu’une machine ne peut pas faire, alors je pourrai toujours construire une machine qui fera précisément cela » (p. 227). Cette phrase semble composée pour faire exactement pièce au déni de Türing qui doute que l’intelligence de la machine puisse s’autonomiser par rapport à celle de l’homme (p. 253), voire acquérir un moi (p. 406). Ainsi l’histoire de la machine sous contrôle humain n’aura peut-être jamais occupé qu’un tout petit segment d’une métonymie qui englobe cette phase comme une infime partie de l’histoire de ce que fut l’homme. Mais cette proposition ne porte pas seulement sur les machines ; elle porte aussi sur le véritable sens de l’universalité qui ne tient pas en propos abstraits et vagues auxquels il peut sembler facile d’acquiescer, mais au contraire au maximum de précision dans le propos auquel il est particulièrement difficile d’acquiescer. Toutefois la morale reste un point d’inquiétude qui est loin d’être résolu. Marx montrait, dans son Introduction générale à la Critique de l’économie politique (1857), que « toute mythologie dompte, domine, façonne les forces de la nature ; [et qu’] elle disparaît au moment où ces forces sont dominées réellement »21. Mais ne ressurgit-elle pas alors sous d’autres formes ? Labatut présente, quant à lui, comment les machines se substituent à cette mythologie, en la réalisant, sans la vaincre ni chercher à la vaincre, sans l’éteindre, en tout cas, mais en la changeant et en la révolutionnant radicalement. D’ailleurs ces machines et leur transformation ne sont-elles pas devenues cette épopée elle-même ? Il faudrait, pour que ce dernier point fût pleinement convaincant, trouver une éthique qui soit à la hauteur de ce nouveau mode de fusion avec la machine. Il se pourrait bien que ce soit ce qu’a cherché J. Harsanyi ; mais il ne faisait là qu’ouvrir une direction dans laquelle il faudrait encore beaucoup creuser.

  • 22 Op. cit., p. 266.

21 Marx a infléchi le texte que nous avons cité sur la mythologie, en un sens qui se rapproche un peu du sens que nous avons donné au roman dont nous avons tenté de rendre compte ; il montre en effet comment la mythologie disparaît moins qu’elle ne nous procure une jouissance artistique, l’art qui la met en œuvre servant, « à certains égards, de norme, voire de modèle inaccessible »22. C’est moins, encore qu’elle ait son importance, en mettant l’accent sur l’esthétique que nous conserverions volontiers cette phrase que sur l’inaccessible qui a souvent fait l’essentiel de notre propos.

  • 23 Klára Dan l’avait déjà souligné pour les mathématiques : elles constituent notre esprit. « Elles ne (...)

22 Il y a plus. Nous venons de dire que c’est un livre qui doit être lu stylo en main, d’autant que son traducteur sait se faire le subtil sismographe de la moindre heureuse expression voire du moindre titre de chacun de ces « témoignages » si l’on veut bien les appeler ainsi. Un exemple pour terminer : l’auteur intitule le texte qu’il délègue à Vincent Ford : « nous avons entendu les machines prendre vie ». C’est le mot « entendre » qui nous saisit : notre relation aux machines est devenue musicale, non pas qu’elles fassent du bruit ou émettent des décibels ; mais loin d’avoir le caractère d’affrontement qu’un tableau peut avoir avec son spectateur, elles ont plutôt celui d’un enveloppement, d’une absolue intimité qui sont ceux que peut avoir la musique avec celui qui l’écoute23. De même qu’il faut savoir s’immiscer dans la musique et être pénétré par la musique, il faut parler une langue intelligible pour la machine. « Et Johnny [von Neumann] était le seul à parler cette langue » (p. 206). On peut écouter les machines comme Feuerbach prétendait écouter le religieux sans le changer.

23 La littérature peut jouer un rôle absolument irremplaçable sur le terrain des sciences et de la philosophie en recherchant et en manifestant, sans lutter contre elles, avec toute la délicatesse possible qui est la sienne, les points où s’instaurent et se jouent une nouvelle pensée et une nouvelle sensibilité. Il nous semble que MANIAC remplisse parfaitement cette fonction et esquisse un travail à faire par les philosophes.

24 En revanche, on pourrait se demander si la théologie n’a pas beaucoup à perdre dans l’opération. En effet, quand nous augmentons les perfections humaines, pourquoi tomberions-nous forcément sur Dieu et non pas sur des machines infiniment plus performantes que celles qui sont désormais fabriquées par les hommes ? Je ne sais par quel préjugé autre que celui de l’habitude on ne met pas en doute que cette augmentation des qualités humaines nous porte forcément du côté de Dieu, d’un Dieu parfait, plutôt que de celui de machines sophistiquées qui savent mieux faire que nous tout ce qu’on voudrait faire. Ou bien on ne fait, par cette augmentation, que fantasmer cet infini et la notion de Dieu n’est alors que le produit de cette facilité et en a la fragilité et la misère ; ou bien on travaille réellement ces qualités et elles ne conduisent pas forcément dans des voies qui mènent à Dieu.

Haut de page

Notes

1 Symptôme partagé par plusieurs mathématiciens, dont Cantor, par exemple, si l’on en croit Theodore von Kármán par exemple, à qui Labatut le fait dire, p. 107.

2 Harsanyi J., L’éthique et le comportement rationnel, Hermann, Paris, septembre 2022.

3 Labatut fait dire à Morgentern que Von Neumann « fut l’un des premiers à préconiser ouvertement une attaque nucléaire surprise contre l’Union soviétique, pas par haine des communistes (même s’il les haïssait), mais parce qu’il était persuadé que c’était la seule manière d’éviter une Troisième Guerre Mondiale » (p. 184-185).

4 Le terme d’apocalypse n’étant d’ailleurs pas le mieux choisi, car il signifie, sous la plume de Jean, non pas le désastre, mais la révélation.

5 J.-S. Mill ne soupçonne pas que c’est plutôt de millions d’années dont il s’agit.

6 Demis Hassabis, l’un des contributeurs à la fabrication d’AlphaGo, fait ressortir avant un match spectaculaire contre un grand joueur de go (Lee Sedol), que « même si nous avons programmé cette machine, nous n’avons pas la moindre idée des coups qu’elle inventera. Ces coups sont un phénomène qui émerge de son apprentissage » (p. 394).

7 P. 350 .

8 La machine n’a plus pour fonction de « copier nos pensées lentes et nos processus logiques tortueux, mais [de] laisser un esprit émerger de lui-même de la vie numérique, à travers un processus d’évolution vis-à-vis duquel nous devions jouer un rôle subalterne, tel un jardinier aimant qui se contente d’entretenir le sol et de donner un léger coup de pouce à la croissance, élaguant les branches mal formées de l’arbre de vie et dégageant de l’espace pour que les racines puissent plonger dans les profondeurs et trouver leurs propres nutriments » (p. 254). Ce propos est mis sous la plume de Barricelli. On aura noté le tour particulièrement biblique que prend ce texte au moment même où on pourrait le plus l’accuser d’athéisme. Quoi de plus athée que d’affirmer que la place de Dieu qui dépasse l’homme peut être occupée par des machines ?

9 Comme on en trouve un sous la plume de Sydney Brenner : pour fabriquer une machine auto-réplicative, « Von Neumann démontre qu’il faut un mécanisme non seulement capable de copier un être, mais de copier les instructions qui spécifient cet être. Vous avez besoin de deux choses : faire une copie et la doter des instructions nécessaires pour qu’elle se fabrique elle-même, accompagnées d’une description de la manière dont il faut mettre en œuvre ces instructions » (p. 239).

10 Dans son roman, Labatut montre comment la machine qui devait se spécialiser dans le jeu de go au point de gagner, presque à coup sûr contre les meilleurs joueurs, AlphaGo apprend à jouer en se confrontant à elle-même plusieurs millions de fois : « apprenant de ses fautes, selon la méthode de l’essai-erreur, [cet ordinateur] s’améliora peu à peu, il s’améliora peu à peu, devant de plus en plus fort. Il n’essayait plus d’imiter les êtres humains et de jouer comme eux, mais cherchait simplement à se surpasser lui-même » (p. 404-405) ; Voir aussi p. 443.

11 Labatut met en scène des coups estimés « impensables » par de nombreux experts. voir p. 435.

12 Eugene Wigner le souligne particulièrement peut-être dans ce que lui fait dire Labatut sous la forme d’une réflexion sur ce que peuvent faire « six malheureux kilogrammes de plutonium » : « Je suis encore stupéfait que nous ayons réussi à accomplir une chose pareille. Bref, ce n’était pas seulement la course frénétique pour battre les nazis (et, ensuite, les Russes, puis les Chinois, et ainsi de suite jusqu’à la fin du monde), c’était la joie de penser l’impensable et de réaliser l’impossible, d’aller au-delà de toutes les limites humaines en portant le don de Prométhée à son incandescence suprême » (p. 191).

13 Labatut rédige des pages poignantes quand il fait écrire par Barricelli la souffrance que celui-ci ressent à travailler avec Von Neumann avant d’ère complètement ignoré par lui comme s’il n’avait jamais existé.

14 « Je ne sais comment j’ai fait pour supporter cet homme, dit Klára Dan. On ne pouvait tout bonnement pas discuter raisonnablement avec lui » (p. 263-264). Le constat est sans appel et proprement terrifiant concernant un homme dont une partie de la vie a été de « se demander sans cesse [sous le vocable de théorie des jeux] ce que pense l’autre, comment vous allez réagir et ce qu’il pense que vous allez faire » (p. 180-181). Morgentern ajoute, un peu plus loin : « Nous tentions de capturer, avec les mathématiques les plus pures possible, la manière dont les êtres humains font leur choix, de prendre au filet leurs insondables motivations, d’y voir clair dans tous ces jeux secrets auxquels ils se livrent, à la fois dans les profondeurs de leur esprit et au grand jour, dans la jungle de la société. Le champ de notre étude était illimité : il pouvait descendre jusqu’au niveau domestique le plus banal - comment une personne choisissait de négocier une augmentation au travail, par exemple - et monter jusqu’aux décisions cruciales façonnant la manière dont des nations se font la guerre » (p. 182). Force est de constater qu’il réussissait mieux sur les sommets que dans la banalité ! Ou plutôt, - et la question peut s’inverser en des termes plus redoutables pour Von Neumann - comment faire confiance à quelqu’un qui prétendait penser les sommets alors qu’il échouait dans les tractations plus humbles de la vie domestique ?

15 « Il m’a implorée, suppliée d’avoir un enfant, et je crois que la stérilité de notre mariage, à tous égards ou presque, est l’une des raisons pour lesquelles il est devenu à ce point obnubilé par la biologie à la fin de sa vie » (p. 262).

16 Cette fois, c’est Sydney Brenner qui transforme Von Neumann en prophète.

17 « Comment des trous pouvaient-ils transmettre des informations ? » (p. 78-79).

18 « Les hommes des cavernes ont créé les dieux, a-t-il déclaré. Je ne vois aucune raison qui nous empêcherait d’en faire autant » (p. 259).

19 C’est à Theodore von Kármán que Labatut fait dire : « La construction de l’univers mathématique ressemble, par bien des aspects, à celle des pyramides des anciens pharaons. Chaque théorème repose en effet sur un substrat plus profond et plus élémentaire. Mais qu’est-ce qui supporte le fond de la pyramide ? Trouve-t-on là quelque chose de solide, ou bien l’ensemble flotte-t-il sur un néant, telle une toile d’araignée abandonnée, ballottée par le vent du matin, s’effilochant déjà sur les bords, n’étant plus tenue ensemble que par des fils de pensée, d’habitude et de croyance fragiles, de plus en plus ténus ? » (p. 102).

20 En faisant une lecture « ascétique » de cette locution, Nietzsche, même s’il voit dans le système pascalien une façon de mettre à part la conscience ou de l’orienter autrement, du moins, nous paraît néanmoins commettre une erreur. Il ne s’agit évidemment pas de ne pas travailler et de mettre son esprit en « sommeil hivernal de certaines espèces d’animaux », mais plutôt du training machinal dont il parle par la suite. (Nietzsche F., La généalogie de la morale, § 17, in : Œuvres, II, p. 865). Que n’a-t-il placé l’ « Abêtissez-vous » sous le signe de ce qui aurait permis qu'il mène un peu plus loin l’ « activité mécanique » (p. 867) - car il s’agit bien, à la lettre, de cela chez Pascal - !

21 Marx K., Œuvres, Économie, Introduction générale à la critique de l’économie politique, La Pléiade, Gallimard, Paris, 1965, I, 265-266. Le thème ne tient pas seulement à une remarque en passant, mais il donne lieu à une superbe page d’exemples qui amplifient et déterminent le propos. « Qu’est-ce que Vulcain auprès de Roberts & Co, Jupiter auprès du paratonnerre et Hermès à côté du Crédit mobilier ? [...] Qu’advient-il de Fama en regard de Printing-house square ? [...] Achille est-il possible à l’âge de la poudre et du plomb ? Ou, en général, imagine-t-on l’Iliade avec la presse et surtout la machine à imprimer ? ».

22 Op. cit., p. 266.

23 Klára Dan l’avait déjà souligné pour les mathématiques : elles constituent notre esprit. « Elles ne sont peut-être rien d’autre, dans une large mesure, qu’un ensemble de jeux étranges et merveilleux, dont le but véritable, au-delà de tous ceux que l’on met en avant, consiste à opérer peu à peu des changements dans la psyché humaine, individuelle mais aussi collective, afin de nous préparer à un futur que nul ne peut imaginer » (p. 177).

Haut de page

Pour citer cet article

Référence électronique

Jean-Pierre Cléro, « Rêveries machinales »Revue d’études benthamiennes [En ligne], 28 | 2025, mis en ligne le 01 décembre 2025, consulté le 15 janvier 2026. URL : http://journals.openedition.org/etudes-benthamiennes/13494 ; DOI : https://doi.org/10.4000/15cd3

Haut de page

Auteur

Jean-Pierre Cléro

Professeur émérite à l’Université de Rouen (ERIAC), Centre des études benthamiennes (Sciences-Po Paris)

Articles du même auteur

Haut de page

Droits d’auteur

Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search