Navigation – Plan du site

Silicium prophétie

La singularité technologique selon Vernor Vinge [document commenté]
Emmanuel Grimaud

Résumé

La singularité technologique est-elle vraiment « la moins pire des prophéties » comme le dit Vernor Vinge ? L’alliance du genre humain avec la technologie ne peut-elle que conduire à sa propre dissolution ? Faut-il souhaiter sa disparition ? Telles sont quelques-unes des questions que soulève la théorie de Vinge qui a déclenché jusqu’ici soit l’adhésion naïve, soit le rejet violent ou bien l’indifférence.
Ce commentaire du premier essai de Vinge sur le concept de singularité technologique cherche à saisir les mécanismes d’emprise paradoxale de la prophétie. Il la resitue de fait par rapport à d’autres scénarios (Point Omega, Digital Gaïa, etc.), variantes technoprophétiques qui extrapolent les seuils critiques de notre temps pour le meilleur et pour le pire.

Haut de page

Texte intégral

« Nous pouvons aussi nous considérer comme des chenilles, bientôt des papillons, et, quand nous contemplons les étoiles, prendre ce vaste silence pour preuve que d’autres races se sont transformées. »

« First Word » de VERNOR VINGE

Prédire des évolutions sociales et technologiques est très populairea. Cela se comprend. Il semble que le changement soit la seule constante dans nos vies. Nous voulons être prêts. Pourtant un mur de pierres nous empêche d’avoir une vision claire de notre futur, qui n’est pas fort éloigné. Il arrive quelque chose de drastique à une espèce quand elle atteint notre stade d’évolution – du moins pourrait-ce être une explication au fait que l’univers semble dénué de toute autre forme d’intelligence. Une catastrophe matérielle (guerre nucléaire, épidémie biologique, malédiction malthusienne) pourrait être la cause de ce vide, mais rien ne rend le futur d’une espèce aussi imprévisible que le progrès technique lui-même.

Un jeu favori des futuristes est de projeter l’accélération des performances techniques, comme la vitesse des ordinateurs, sur la ligne du temps. De telles courbes de tendance grimpent toujours plus haut. Extrapolées à trente ou quarante ans, elles atteignent une hauteur si vertigineuse que même les futuristes les plus naïfs s’en méfient. Certains, lorsqu’ils parlent de cette époque, prédisent une stabilisation du progrès. Après tout, on observe des effets de saturation dans d’autres processus de croissance.

Mais ce processus ne va pas se stabiliser pour la raison suivante : nous sommes sur le point d’accélérer l’évolution de l’intelligence elle-même. Il est encore trop tôt pour prédire les moyens exacts d’accomplissement de ce phénomène – peu importe. Que notre travail s’exprime en silicium ou en ADN aura peu d’effet sur le résultat final. L’évolution de l’intelligence humaine s’est étalée sur des millions d’années. Nous avancerons tout autant en une fraction seulement de ce temps. Nous allons bientôt créer des intelligences plus grandes que la nôtre.

Alors, l’histoire humaine aura atteint une sorte de singularité, une transition intellectuelle aussi impénétrable que le nœud d’espace-temps au cœur d’un trou noir, et le monde passera bien au-delà de notre compréhension. Cette singularité hante déjà nombre d’auteurs de science-fiction. Elle rend impossibles des extrapolations réalistes d’un futur interstellaire. Écrire une histoire se déroulant dans cent ans suppose d’intercaler d’ici là une guerre nucléaire, destinée à retarder suffisamment le progrès pour que le monde nous reste intelligible.

Un homme de Cro-Magnon transporté à l’époque actuelle pourrait sans doute comprendre les changements survenus ces 35 000 dernières années. La différence entre l’homme contemporain et les créatures qui vivront au-delà de cette singularité est incomparablement plus profonde. Même si nous pouvions visiter cette époque, la plus grande partie de ce que nous y verrions nous serait à tout jamais incompréhensible.

C’est une vision que la plupart des gens placent dans un lointain futur, situé peut-être après un autre million d’années d’évolution normale. Mais, surprise, c’est un futur qui arrivera aussitôt que nous aurons créé des intelligences surhumaines. Et, étant donnés nos progrès en informatique et en sciences biologiques, cela devrait être possible d’ici seulement vingt à cent ans.

Le passage vers cette grande singularité ne devrait pas se dérouler brutalement. Pour le moment, il n’y a eu que peu de progrès dans l’automatisation des prérogatives distinctives de l’esprit humain. Cela va changer au cours des vingt prochaines années. Les programmes pouvant réaliser des transformations symboliques aussi bien que numériques vont devenir courants. Les ordinateurs des étudiants vont être capables de résoudre la plupart des problèmes de nos cours de licence. Les universités vont se battre pour fournir des programmes destinés à entraîner leurs étudiants à penser avec ces nouveaux outils. Les jeunes diplômés auront besoin de connaissances toujours plus grandes de la part de leurs majors pour accéder à des professions techniques. Avec les années, nous allons constater que de moins en moins d’humains seront nécessaires pour faire tourner de grands systèmes.

Ce serait être dans l’erreur que de nommer ce processus « chômage technologique ». Avant même l’automatisation des derniers métiers, nos successeurs – les intelligences plus qu’humaines que nous sommes en train de créer – seront déjà en scène. Quel que soit le paradis que pourrait devenir le monde, l’homme n’y tiendra plus le premier rôle.

Pour certains, ce scénario est encore moins souhaitable, et sûrement plus cataclysmique, qu’une bonne guerre atomique, après laquelle nous pourrions reprendre nos activités humaines habituelles.

Mais si on considère la singularité de manière appropriée, nul besoin d’être déprimé. Marvin Minsky, du Massachusetts Institute of Technology, a suggéré que nous considérions ces nouveaux êtres comme nos enfants – des enfants qui feront toujours mieux que leurs parents.

Parfois, ce point de vue me suffit ; la plupart du temps, non. Je veux que les êtres humains continuent à être des acteurs. Et peut-être y a-t-il un moyen. Les intelligences des machines n’ont pas besoin d’être indépendantes de la nôtre. Même à l’heure actuelle, lorsque nous utilisons nos ordinateurs personnels, nous accroissons notre mémoire et notre capacité à résoudre les problèmes et les dilemmes auxquels nous faisons face tous les jours. En un sens, nous augmentons notre propre intelligence. Quand nous améliorerons l’interface homme/ordinateur, cet effet d’augmentation va s’accroître. Quand l’ordinateur, un des deux partenaires, deviendra intelligent, il pourra toujours faire partie de l’entité qui nous inclut. La singularité deviendra alors le résultat d’une amplification massive de l’intelligence humaine plutôt que le remplacement de celle-ci par des machines.

Atteindre cette singularité peut être, reconnaissons-le, effrayant, mais nous pouvons aussi nous considérer comme des chenilles, bientôt des papillons, et, quand nous contemplons les étoiles, prendre ce vaste silence pour preuve que d’autres races se sont déjà transformées.

Texte de Vernor Vinge traduit de l’anglais par Christine Langlois

a. Ce texte « First Word » a été publié pour la première fois dans le magazine Omni en janvier 1983, p. 10. Nous remercions Vernor Vinge d’autoriser sa reproduction dans Terrain.

  • 1 L’essai de Vernor Vinge reproduit ici est celui dans lequel est formulée pour la première fois l’i (...)
  • 2 Sur cette technique de distorsion du familier, voir Chklovski 1917 ; Ginzburg 2001 et Gradhiva no  (...)
  • 3 Sur la notion de « données aberrantes » en statistique et le raisonnement à partir d’événements im (...)
  • 4 Citons, parmi les plus courantes, l’hypothèse de l’hiver nucléaire (Sagan), la guerre nucléaire mu (...)
  • 5 Our Final Hour (2003) de l’astronome anglais Martin Rees, souvent cité par Vinge, nous embarque da (...)
  • 6 L’ingénieur Gordon Moore proposa plusieurs prédictions concernant l’augmentation exponentielle de (...)
  • 7 Une hypothèse morte à l’inverse est « un appel à l’action qui ne saurait trouver aucun écho dans n (...)

1De la « singularité », ce point d’emballement de l’évolution technologique au-delà duquel rien ne serait prévisible, tout semble avoir été dit1, aussi bien par les ingénieurs qui se sont faits les promoteurs de la prophétie que par ses détracteurs qui la dénoncent comme une chimère. Cette prédiction part d’une intuition qui aurait dû être davantage prise au sérieux pour ce qu’elle a été à l’origine, une expérience de pensée voire d’« estrangement2 » pour imaginer les futurs possibles. Philip K. Dick disait de l’auteur de science-fiction qu’il n’envisage pas seulement des possibilités, mais des possibilités délirantes. Il ne se demande plus seulement : « Voyons ce qui se passerait si… ? », mais « Mon Dieu, et si jamais… ? » L’hypothèse de la singularité est sortie de l’imaginaire d’un écrivain de science-fiction, Vernor Vinge, qui cherche, par profession, à penser les écarts et les troubles les plus grands, y compris par des scénarios aberrants3. Il l’a formulée pour la première fois lors d’une table ronde organisée par la NASA, réunissant des experts dont certains en intelligence artificielle (IA), pour réfléchir à une éventualité, un scénario catastrophe parmi d’autres parfois plus cataclysmiques4 encore. Si on peut certainement discuter lequel de ces scénarios est la « moins pire des prédictions5 », il ne fait aucun doute que l’hypothèse de la singularité répond à tous les critères du bon scénario futurologique. Comprenant un peu d’économie (extrapolant la loi de Moore6), un brin de paléoanthropologie, de biologie et de théorie de l’évolution, elle est à la fois une fin et un début et elle donne le sentiment que « tout se joue ici et maintenant » par un incroyable effet de compression du temps. Elle a tout de ce que William James appelait une « hypothèse vivante7 », une véritable possibilité qui dispose à agir irrévocablement et nous engage sur un mode viscéral.

  • 8 Ce grand mouvement né en Angleterre au début du xixe siècle dans le milieu des ouvriers du textile (...)

2La possibilité que les humains se voient dépassés par les machines n’est pas une idée nouvelle. Samuel Butler nous mettait en garde contre l’avènement de ce nouveau règne, invoquant Darwin à l’appui de son scénario dont « l’issue finale n’est qu’une question de temps ». Avant qu’il ne soit trop tard « une guerre à mort devrait être immédiatement proclamée contre elles », écrit-il, car « l’homme sera pour la machine ce que le cheval et le chien sont pour l’homme » (2014 [1863] : 93). Et Butler ne cache pas son ironie face à ce retournement. Il est moins question d’un point de rupture ou d’une phase de transition que d’un changement d’état et de statut pour l’homme qui « continuera d’exister, et même de s’améliorer, et s’en sortira sans doute mieux dans cet état de domestication sous la règle bienveillante des machines, que ce n’est le cas actuellement dans son actuel état sauvage ». L’humour est bien présent, mais un peu plus glaçant chez Alan Turing (1951) qui invoque le roman de Butler comme un scénario probable auquel il faudra un jour se préparer. Et lorsque Irving John Good conçoit comme imminent l’avènement d’une superintelligence (1965), on constate que ces prophéties sont désormais formulées de l’intérieur, non par des luddites8, mais par des ingénieurs ou des penseurs participant pleinement à l’émergence de l’IA.

3Comment expliquer que les mêmes personnes promeuvent l’IA tout en annonçant la dissolution prochaine du genre humain, ou qu’utopie et dystopie deviennent indiscernables quand on pousse la courbe du progrès jusqu’à son point d’extrémité ? John Desmond Bernal (1929), en qui Arthur C. Clarke avait vu l’un des futurologues les plus brillants de son temps, envisagea bien avant Vinge la métamorphose finale de l’espèce :

« Un tel changement serait aussi important que celui qui a vu la vie apparaître pour la première fois à la surface de la Terre et pourrait être aussi graduel et imperceptible. Enfin, la conscience elle-même pourrait se dissoudre ou disparaître dans une humanité complètement éthérée, signant la perte de notre organisme si bien intégré, se transformant en masses d’atomes dans l’espace communiquant par rayonnement et se résolvant peut-être entièrement en lumière. Cela pourrait être une fin ou un début, mais à partir de là, inappréhendable (out of sight). »

4Voilà qui ressemble au fameux point Omega du paléoanthropologue jésuite Pierre Teilhard de Chardin (1955), ce grand moment d’apothéose cosmologique où l’univers atteindra son maximum de conscience, au stade ultime du développement du grand bain d’information que constitue la « noosphère ». Avatars d’une rencontre improbable entre la Révélation chrétienne, l’idée de progrès, un désir irrépressible de dématérialisation et le culte des technologies de la cognition, ces visions ont préparé le terrain au motif de la singularité qui prospère aujourd’hui en Californie.

  • 9 « J’ai évité, dit-il, d’écrire des histoires au cœur de la Singularité […]. J’ai écrit des histoir (...)
  • 10 Une hypothèse apparentée est explorée par Jean-Michel Truong dans Totalement inhumaine (2001). Si (...)

5Dans la vallée du Silicium ou Silicon Valley, scientifiques, écrivains de science-fiction et futurologues se livrent à un trafic spéculatif incessant qui brouille le vieux partage entre science et fiction (Helmreich 1998). Vinge a fait toute sa carrière comme mathématicien et professeur d’informatique à San Diego, alimentant l’imagination de ses collègues par des romans qui relèvent plutôt du space opera9 et que la singularité, la plus connue de ses spéculations, oriente en grande partie. Tout comme le végétal s’est développé en parasitant le minéral, les entités cybernétiques se cultivent à notre insu et nous n’avons guère le choix, toujours plus dépendants, toujours plus connectés, préparant l’émergence d’entités, probablement monstrueuses, au moins inconnues. Envisagée dans sa double dimension (destructrice et créatrice), la singularité serait un cataclysme comparable à l’explosion de vie du Cambrien, d’où notre espèce devrait jaillir entièrement étrangère à ce qu’elle est aujourd’hui et d’où devrait émerger une incroyable vie artificielle10. Ainsi formulé, le scénario a des accents hollywoodiens, mais les extrapolations de Vinge sont souvent difficiles à classer ; elles relèvent du rêve pour certains, du cauchemar pour d’autres. C’est en raison de son ambivalence que l’hypothèse de la singularité a une capacité de séduction plus forte que l’utopie d’un bonheur partagé avec des machines sous contrôle. Le texte de Vinge multiplie les paradoxes et ambiguïtés à des fins spéculatives, d’où l’intérêt d’y revenir, avant que les transhumanistes aient poussé radicalement l’intuition initiale et lui aient donné une tournure explicitement eschatologique (Kurzweil 2005).

6La singularité vingéenne réduite à sa forme la plus simple désigne un moment de trouble radical, un seuil critique d’inintelligibilité, au-delà duquel il ne sera plus possible de dire que des entités dites « intelligentes » sont sous contrôle de leurs concepteurs ; pire encore, il ne sera plus possible à leurs concepteurs de les comprendre. À l’appui de sa thèse, Vinge invoque une image : si on permettait à un homme de Cro-Magnon de revenir en ce début de xxie siècle, il lui faudrait probablement quelques jours pour s’habituer ou se faire expliquer ce qui a changé depuis son époque. En revanche, les différences entre deux créatures élevées des deux côtés de la singularité seraient bien plus profondes. Autant essayer d’expliquer la signification de notre monde à un poisson rouge ! Ce moment marquerait donc une poussée d’« estrangisation » jamais atteinte, un moment d’émergence d’entités radicalement différentes et capables, bien évidemment, de se reproduire sans nous. Nous nous rapprocherions de la singularité à grands pas, comme dans un trou noir, en passe d’être aspirés dans un univers sur le point de changer de coordonnées. L’idée qu’à partir d’un certain seuil critique de développement d’entités « intelligentes » nous pourrions nous aventurer dans un scénario imprévu, au-delà duquel toute extrapolation deviendrait impossible, pourrait sonner comme un avertissement ou une mise en garde justifiant l’arrêt de tout investissement dans l’intelligence artificielle. Or, c’est bien le contraire qui se produit et c’est ce paradoxe qu’il faut expliquer.

7La singularité vingéenne aurait pu fructifier autrement, être jugée pour son potentiel d’estrangement radical comme toute autre expérience de pensée spéculative (Chalmers 2010) ou bien être réélaborée à l’aune de situations d’inintelligibilité concrètes, devenir un outil de diagnostic, un instrument de collapsologie, afin de mieux juger les implications, les bienfaits et les effets pervers de l’IA. Elle aurait même pu faire l’objet d’investigations expérimentales ou de simulations, comme le fut par exemple la vallée de l’étrange théorisé par Masahiro Mori en 1970, ce moment d’apocalypse mentale vécu au contact d’un robot qui nous ressemble au point de nous effrayer et qui a servi de modèle à de nombreuses expériences en robotique humanoïde. Mais le scénario a pris une toute autre ampleur. Plus de vingt ans après que Vinge l’a proposée à ses collègues, la singularité n’a cessé de faire des adeptes, alimentant des formes variées de technomillénarisme. Ayant adopté la science et la technologie comme religion, des mouvements aux allures sectaires, « singularitariens » (Yudkowsky 2000) ou « extropiens » (More 2003) se préparent à son avènement comme on attend l’Apocalypse et cherchent à mettre toutes les chances de survie de leur côté. La singularité n’est plus aujourd’hui simplement une expérience de pensée, elle n’est pas non plus pour les transhumanistes qu’un futur inévitable ou une prophétie en passe de s’autoréaliser, mais un pacte quasi faustien à nouer avec les machines. Vinge n’en est certainement pas responsable, mais son texte contenait déjà les indices de ce drôle de contrat. « Je veux que les êtres humains continuent à être des acteurs », dit-il, que la singularité soit « le résultat d’une amplification massive de l’intelligence humaine plutôt que le remplacement de celle-ci par des machines ». Autrement dit, Vinge désire la singularité, mais une singularité plus humaine. Il faudrait tout faire pour humaniser la technologie conçue comme foncièrement inhumaine. Le raisonnement scinde cette théorie en deux. La première est invivable et hostile, l’autre se veut épanouissante. La première déresponsabilise les humains en déshumanisant la technologie, la seconde les rend maîtres de leur destin en n’en faisant non pas les victimes, mais les pilotes de la catastrophe annoncée.

  • 11 Parmi les projets explicitement religieux, citons Way of the Future d’Anthony Levandowksi. Ce conc (...)
  • 12 Dans Les nouveaux possédés, Jacques Ellul déplorait déjà que la technique soit devenue religion : (...)

8Il n’est pas utile de rappeler les subtils mécanismes d’embrayage sur lesquels les prophéties s’appuient, amplement explorés depuis les travaux de Festinger (1956). On pourrait croire qu’il suffit d’attendre qu’une hypothèse vivante soit mise à l’épreuve des faits pour être reléguée, comme le disait James, dans les hypothèses mortes, mais ce n’est jamais aussi simple. Vinge a d’abord déclaré qu’il serait surpris que la singularité advienne « avant 2010 ou bien après 2030 ». Depuis, l’échéance n’a cessé d’être reculée, Kurzweil la prévoyant pour 2045. La date précise importe finalement peu, seul compte l’effet d’imminence. Ceux qui estiment probable, plutôt qu’une apocalypse des machines, une apocalypse avec et en elles, ne se contentent pas d’attendre patiemment son avènement comme on attendrait une invasion extraterrestre. Si certains disent que les Mayas ont accéléré leur propre effondrement en étant guidés par de sombres prophéties (Puleston 1979), les transhumanistes pilotent eux de grands projets et obtiennent de nombreux financements. Notre extinction est imminente à cause de la prolifération de machines de plus en plus « intelligentes » ? Soit, œuvrons à notre libération en multipliant les techniques d’augmentation, de cryogénisation, les programmes de transfert de l’esprit (mind uploading), les instituts pour une intelligence artificielle plus amicale et pourquoi pas un dieu artificiel11 ! Tel est le drôle de futur dans lequel les prophètes du silicium nous ont embarqués. Comment expliquer l’extraordinaire capacité du « paradoxe de la singularité », sans doute l’un des plus puissants motifs eschatologiques du début du xxie siècle, à séduire et à embarquer ainsi chercheurs, industriels et usagers ? Les amateurs de théories du complot verront dans ce moment une forme de storytelling savamment orchestrée par les leaders des technologies mondiales. J’y vois pour ma part l’un des plus beaux rapts de l’idée d’Apocalypse jamais effectués, avec son mélange si caractéristique de peur et d’espoir, entre rédemption et dissolution. On ne pouvait imaginer terreau plus fertile que notre propre présent, marqué par une emprise des machines toujours plus envahissante et vécue comme foncièrement ambivalente12.

9Il est devenu banal de condamner la singularité comme un empiètement scandaleux des technosciences par des croyances religieuses, comme si les premières étaient à jamais étanches aux secondes. N’est-ce pas plutôt la preuve que les technologies sont impensables en dehors d’un « pacte » dont les conditions de félicité ou de viabilité ne vont pas de soi ? Et si les machines avaient pris possession de leurs concepteurs au point qu’ils ne puissent envisager le futur sans elles ? Depuis la singularité, Vinge a formulé d’autres hypothèses qui témoignent de la difficulté pour les futurologues d’envisager l’avenir de l’humain en dehors de cette emprise. L’une des plus intrigantes est probablement celle du réveil d’Internet, plus communément appelée Digital Gaïa, et qui serait d’après lui le meilleur chemin vers la singularité. Extrapolant la courbe de croissance d’Internet jusqu’à ce qu’il devienne un genre de réseau sensoriel ubiquitaire connecté à tout, on pourrait bien voir émerger « une Toile sous la Toile » constituée de tous les microprocesseurs en réseau criblant la planète, formant des « systèmes distribués de senseurs à granularité fine » (Vinge 2000). Cet « animisme implémenté » est l’une des possibilités les plus étranges envisagées par Vinge, car le monde deviendrait alors « sa propre base de données ». Cet éveil électronique de la Terre rendrait, d’après lui, notre sens commun du monde invalide, surtout qu’on pourrait bien imaginer ce réseau entrer en négociation avec la vieille Gaïa sans passer par aucun médiateur humain. Comme la singularité avant elle, Digital Gaïa extrapole très légèrement une tendance actuelle. Elle brûle quelques étapes considérées comme étant aisément atteignables, mais qui constituent de vrais problèmes à résoudre pour les ingénieurs de l’IA. Elle opère une compression remarquable du temps, la mutation projetée – qui peut varier de quelques décennies à plusieurs millions d’années – se jouant ici et maintenant. Tel un big bang électronique projeté au-devant de nous, elle comporte enfin une ambivalence forte quant à son issue, car savoir si une telle mutation est souhaitable ou cauchemardesque n’est pas aussi aisé à trancher.

  • 13 Voir sur la fin du silicium et d’autres scénarios alternatifs Huesemann & Huesemann 2011. Sur la d (...)
  • 14 À la différence de Vinge qui perçoit l’émergence de la vie électronique comme imminente, Lovelock (...)

10Dans A Rough Ride to the Future (2014), James Lovelock, à l’origine de l’hypothèse Gaïa, émit l’idée que « la destruction à grande échelle de l’écosystème de la planète par une humanité rapace » pourrait n’être « rien de plus que le chaos constructif qui accompagne toujours l’installation d’une nouvelle infrastructure ». Reprenant la métaphore de la larve et du papillon de Vinge, il écrit : « Qui s’inquiète de la disparition de la chenille une fois sa mutation en papillon achevée ? Il se pourrait que la Terre telle une larve mute bientôt dans une nouvelle planète plus excitante. » (2014 : 1) Voyant en cette théorie un scénario optimiste, Lovelock prétend que les humains connectés, ayant déjà commencé à former avec leurs réseaux un tout endosymbiotique (Margulis & Sagan 1986), doivent se regarder comme la partie consciente et intelligente de la Terre. On notera que personne ne considère la possibilité d’un rejet massif de la technologie ou d’une rupture dans la courbe – à la Moore – d’expansion du numérique13. Celui-ci est conduit à se loger toujours plus finement dans la matière et dans les plis du vivant, dans le scénario animiste de Vinge tout comme dans le panpsychisme version techno de Lovelock. La singularité et Digital Gaïa sont peut-être l’œuvre de visionnaires ; elles témoignent du fait que l’avenir de la vie ne s’envisage pas autrement que dans une fusion toujours plus étroite avec le règne électronique14.

  • 15 Voir par exemple Laumonier 2014 concernant le rôle des logiciels de trading dans la crise des marc (...)

11Si la singularité dit quelque chose des oscillations brutales de notre rapport à la technologie, fluctuant entre liberté et aliénation, sans véritable équilibre possible, elle rôde désormais tel un spectre sur toute interaction homme-machine. La crainte de l’effondrement – the fear of breakdown (Winnicott 1974) – est toujours la peur d’une mort qui a déjà eu lieu quelque part et qu’il faut savoir identifier. À part la sensibilité, l’émotion et le génie, n’a-t-on pas acté par exemple depuis longtemps la canalisation d’un bon nombre de capacités humaines en pactisant avec des ordinateurs dotés de capacités surpuissantes ? Dans ce contexte, la singularité pourrait être au fond un phénomène très banal, qui se décline au pluriel et qui a déjà lieu sous des formes bien plus bizarres que celles envisagées jusqu’ici. Un seuil critique peut être éprouvé à chaque fois qu’une machine ou qu’un réseau semble n’en faire qu’à sa tête, que des milliers d’utilisateurs surinteragissant sur Internet font émerger des choses qui les dépassent, que des comportements d’entités dites « intelligentes » nous échappent ou se rendent inintelligibles ou que des catastrophes se produisent, impliquant des relations troubles de pilotage avec des intelligences algorithmiques15. Il n’est pas sûr en effet que l’avènement de « superintelligence » annoncé (Bostrom 2014), décidément toujours assimilée à une capacité de calcul, de mémoire et de décision, ne consiste pas en un déferlement d’intelligences partielles, d’insensibilité artificielle (autrement dit de bêtise) jamais atteinte ou encore de sensibilités étrangères à la nôtre. Personne n’aurait pu prévoir que le biotope électronique dans lequel évoluent aujourd’hui agents en réseaux, soft robots et autres entités boulimiques en données traversant allègrement les frontières des États oscille entre le zoo et le champ de bataille, et que ses usages soient aussi complexes à réguler dans un contexte où se multiplient les situations troubles de commande impliquant agents artificiels, pilotes et usagers. Dans ce contexte chaotique de petites singularités potentiellement multiples et variées, toutes les sciences-fictions ne se valent pas pour tirer le fil des situations d’inintelligibilité de notre présent profondément ambivalent. Vinge a bien compris que pour être en prise avec notre monde, il fallait que la sienne soit telle une corde tendue au-dessus d’un abîme et qu’utopie et dystopie aillent de pair jusqu’à s’inverser soudainement ou se confondre.

Haut de page

Bibliographie

BERNAL JOHN DESMOND, 1929.
The World, the Flesh and the Devil. An Enquiry into the Future of the Three Enemies of the Rational Soul, Londres, Trubner & Co.

BOSTROM NICK, 2014.
Superintelligence. Paths, Dangers, Strategies, Oxford, Oxford University Press.

BOURDEAU VINCENT, FRANÇOIS JARRIGE & JULIEN VINCENT, 2006.
Les luddites. Bris de machines, économie politique et histoire, Maison-Alfort, Ère.

BUTLER SAMUEL, 2014 [1863].
Darwin parmi les machines et autres textes néo-zélandais, éd. Thierry Hoquet, Paris, Hermann.

CHALMERS DAVID J., 2010.
« Singularity. A Philosophical Analysis », The Journal of Consciousness Studies no 17, p. 7-65.

CHKLOVSKI VIKTOR, 2008 [1917].
L’art comme procédé, Paris, Allia.

ELLUL JACQUES, 1973.
Les nouveaux possédés, Paris, Fayard.

FESTINGER LÉON, HENRY W. RIECKEN & STANLEY SCHACHTER, 1993 [1956].
L’échec d’une prophétie. Psychologie sociale d’un groupe de fidèles qui prédisaient la fin du monde, trad. Sophie Mayoux et Paul Rozenberg, Paris, PUF.

GINZBURG CARLO, 2001.
« L’estrangement. Préhistoire d’un procédé littéraire », in À distance. Neuf essais sur le point de vue en histoire, Paris, Gallimard, p. 15-36.

GOOD IRVING JOHN, 1965.
« Speculations Concerning the First Ultraintelligent Machine », in Marvin Zelkowithz (dir.), Advances in Computers, t. VI, Cambridge, Academic Press.

HELMREICH STEFAN, 1998.
Silicon Second Nature. Culturing Artificial Life in a Digital World, Berkeley, University of California Press.

HOLSTEIN ÉRIC, 2007.
« Interview avec Vernor Vinge », SF Actu, en ligne : http://www.actusf.com/spip/Interview-Vernor-Vinge-VF.html [dernier accès, janvier 2019].

HUESEMANN JOYCE & MICHAEL HUESEMANN, 2011.
Techno-Fix. Why Technology Won’t Save us or the Environment, Vancouver, New Society Publishers.

JAMES WILLIAM, 2005 [1897].
La volonté de croire, trad. Loÿs Moulin, Paris, Les Empêcheurs de penser en rond.

JARRIGE FRANÇOIS, 2014.
Techno-critiques. Du refus des machines à la contestation des technosciences, Paris, La Découverte.

KLINGER WOLFRAM, 2017.
« À genoux devant le Dieu-machine », Motherboard / Vice, en ligne : https://motherboard.vice.com/fr/article/wjxmqn/a-genoux-devant-le-dieu-machine [dernier accès, janvier 2019].

KURZWEIL RAY, 2007 [2005].
Humanité 2.0, trad. Adeline Mesmin, Paris, M21.

LAUMONIER Alexandre, 2014.
6/5. Le soulèvement des machines, Bruxelles, Zones sensibles.

LOVELOCK JAMES, 2014.
A Rough Ride to the Future, Londres, Allen Lane.

MARGULIS LYNN & DORION SAGAN, 2002 [1986].
L’univers bactériel. Les nouveaux rapports de l’homme et de la nature, trad. Gérard Blanc, Paris, Éditions du Seuil.

MOORE GORDON E., 1965.
« Cramming More Components Onto Integrated Circuits », Electronics no 38, p. 114-117.

MORE MAX, 2003.
« Principles of Extropy (Version 3.11). An Evolving Framework of Values and Standards for Continuously Improving the Human Condition », Extropy Institute, en ligne : http://www.geocities.ws/rational_argumentator/principlesofextropy.html [dernier accès, janvier 2019].

MORI MASAHIRO, 2012 [1970].
« La vallée de l’étrange », Gradhiva no 15, p. 26-33.

PULESTON DENNIS E., 1979.
« An Epistemological Pathology and the Collapse, or Why the Maya Kept the Short Count », in Norman Hammond & Gordon R. Willey (dir.), Maya Archaeology and Ethnohistory, Austin, University of Texas Press, p. 63-71.

REES MARTIN SIR, 2003.
Our Final Hour. A Scientist’s Warning. How Terror, Error, and Environmental Disaster Threaten Humankind’s Future in this Century-on Earth and Beyond, Londres, Basic Books.

TALEB NASSIM-NICHOLAS, 2010.
Le cygne noir. La puissance de l’imprévisible, Paris, Les Belles Lettres.

TEILHARD DE CHARDIN PIERRE, 1955.
Le phénomène humain, Paris, Éditions du Seuil.

TRUONG JEAN-MICHEL, 2001.
Totalement inhumaine. Essai, Paris, Les Empêcheurs de penser en rond.

TURING ALAN, 1996 [1951].
« Intelligent Machinery. A Heretical Theory », Philosophia Mathematica no 4, p. 256-260.

VINGE VERNOR, 1993.
« The Coming Technological Singularity. How to Survive in the Post-Human Era », in G. A. Landis (dir.), Vision-21. Interdisciplinary Science and Engineering in the Era of Cyberspace, Washington, NASA Publication, p. 11-22.

—, 2000.
« The Digital Gaïa », Wired, 1er janvier, p. 75.

WINNICOTT DONALD WOODS, 2000 [1974].
« La crainte de l’effondrement », in La crainte de l’effondrement et autres situations cliniques, trad. Jeannine Kalmanovitch & Michel Gribinski, Paris, Gallimard.

YUDKOWSKY ELIEZER S., 2000.
« The Singularitarian Principles », version du 1er janvier, en ligne http://yudkowsky.net/obsolete/principles.html [dernier accès, janvier 2019].

Haut de page

Notes

1 L’essai de Vernor Vinge reproduit ici est celui dans lequel est formulée pour la première fois l’idée de la « singularité ». Celle-ci fera ensuite l’objet d’une version plus développée (Vinge 1993) avant d’être adoptée par les transhumanistes et de donner lieu à d’innombrables commentaires et controverses.

2 Sur cette technique de distorsion du familier, voir Chklovski 1917 ; Ginzburg 2001 et Gradhiva no 29 Estrangemental à paraître en 2019.

3 Sur la notion de « données aberrantes » en statistique et le raisonnement à partir d’événements imprévisibles en futurologie, voir la théorie dite « du cygne noir » de Taleb (2010).

4 Citons, parmi les plus courantes, l’hypothèse de l’hiver nucléaire (Sagan), la guerre nucléaire mutuellement destructive (Mutual Assured Destruction), la catastrophe écologique (Lovelock), la théorie dite de la « sixième extinction » (Leaky et Lewin).

5 Our Final Hour (2003) de l’astronome anglais Martin Rees, souvent cité par Vinge, nous embarque dans le pire des scénarios imaginables. D’après lui, il y a une chance sur deux pour que l’humanité disparaisse avant 2100 à cause d’un mauvais usage de la technologie.

6 L’ingénieur Gordon Moore proposa plusieurs prédictions concernant l’augmentation exponentielle de la puissance des microprocesseurs (loi de 1965) qui ont servi de pierre angulaire à la singularité. Au lieu de prévoir une stabilisation de la courbe ou son inflexion, Vinge l’extrapole jusqu’à son explosion.

7 Une hypothèse morte à l’inverse est « un appel à l’action qui ne saurait trouver aucun écho dans notre conscience » (James 1897) ; c’est une hypothèse sur le monde et sur ses possibilités qui ne résonne plus avec notre subjectivité.

8 Ce grand mouvement né en Angleterre au début du xixe siècle dans le milieu des ouvriers du textile consista à briser des machines et adopta pour figure emblématique – et probablement imaginaire – un certain John Ludd (Bourdeau, Jarrige & Vincent 2006).

9 « J’ai évité, dit-il, d’écrire des histoires au cœur de la Singularité […]. J’ai écrit des histoires se situant des millions d’années après sa probable survenue (La Captive du temps perdu). J’ai aussi écrit des histoires assez éloignées de la possibilité d’une Singularité (Un feu sur l’abîme). Dans le cas de Rainbows End, j’ai écrit une histoire qui se situe vraisemblablement juste avant (voire même au stade initial de) la Singularité. » (Holstein 2007)

10 Une hypothèse apparentée est explorée par Jean-Michel Truong dans Totalement inhumaine (2001). Si l’intelligence artificielle semble se renforcer à chaque crise depuis l’après-guerre, Truong voit peu à peu émerger, plutôt qu’une profusion d’entités, un être ubiquitaire à grande échelle, un organisme cybernétique qu’il appelle Le Successeur.

11 Parmi les projets explicitement religieux, citons Way of the Future d’Anthony Levandowksi. Ce concepteur de la voiture autopilotée cherche par ailleurs à programmer un dieu avec de l’IA. Sur le « digitalisme » comme religion, voir Klinger 2017.

12 Dans Les nouveaux possédés, Jacques Ellul déplorait déjà que la technique soit devenue religion : « Ce n’est pas la technique qui nous asservit mais le sacré transféré à la technique. » (1973 : 316)

13 Voir sur la fin du silicium et d’autres scénarios alternatifs Huesemann & Huesemann 2011. Sur la difficulté à formuler de véritables utopies de rupture radicale depuis le mouvement luddite jusqu’aux mouvements de contestation des technosciences, voir Jarrige 2014.

14 À la différence de Vinge qui perçoit l’émergence de la vie électronique comme imminente, Lovelock considère que cette symbiose pourrait prendre plusieurs millions d’années. Les deux empruntent à Margulis son concept d’« endosymbiose » pour qualifier cette phase intermédiaire où l’électronique émerge dans, avec et par l’humain, mais à son insu, tel un parasite habitant une cellule hôte (Margulis & Sagan 1986). Pour un scénario approchant qui mêle le biologique et l’électronique, voir Truong 2001.

15 Voir par exemple Laumonier 2014 concernant le rôle des logiciels de trading dans la crise des marchés financiers de 2008.

Haut de page

Pour citer cet article

Référence électronique

Emmanuel Grimaud, « Silicium prophétie », Terrain [En ligne], 71 | avril 2019, mis en ligne le 20 mai 2019, consulté le 15 octobre 2019. URL : http://journals.openedition.org/terrain/18209 ; DOI : 10.4000/terrain.18209

Haut de page

Auteur

Emmanuel Grimaud

CNRS, Laboratoire d’ethnologie et de sociologie comparative

Articles du même auteur

Haut de page
  • Logo INSHS
  • Logo Université Paris Lumière
  • Logo Université Paris Ouest
  • Logo MAE - Maison Archéologie Ethnologie
  • Logo FMSH-Diffusion
  • OpenEdition Journals