Cet article constitue la traduction d’un chapitre du livre de David Bates intitulé An artificial history of natural intelligence, qui sera publié prochainement chez University of Chicago Press. Le chapitre ici traduit s’intitule « Epistemologies of the Exosomatic » : le texte a été modifié et raccourci pour les besoins de la présente publication. Les citations des auteurs sont des traductions libres à partir des textes originaux en anglais.
- 1 Julian Huxley, « Evolution, Cultural and Biological », Yearbook of Anthropology, Chicago, Universit (...)
- 2 Ibid., p. 22.
- 3 Ibid., p. 18.
1La question de la technologie était au cœur des recherches anthropologiques d’après-guerre. Les découvertes archéologiques transforment la compréhension traditionnelle de l’évolution des hominidés, en soulevant une question fondamentale : quand le premier « humain » est-il apparu dans les temps (pré)-historiques ? De toute évidence, les caractéristiques morphologiques ne suffisent pas à identifier le premier humain « authentique » par rapport aux multiples espèces d’ancêtres répertoriées au milieu du xxe siècle. Au lieu de cela, les théoriciens de l’évolution se concentrent sur les propriétés cognitives et culturelles. Comme l’explique le biologiste de l’évolution Julian Huxley, la clé de l’évolution humaine n’est autre que l’émergence de la culture elle-même, qui est plus qu’une forme de comportement ou l’apparition soudaine d’une « capacité » cérébrale. Pour Huxley, les humains sont, à un certain moment, devenus capables de partager (et non seulement d’exprimer) leurs pensées. Il définit alors la culture comme un « corps partagé ou partageable de constructions matérielles, mentales et sociales », dont aucune n’est déductible à partir de la seule psychologie ou de la seule physiologie individuelle1. Comme l’observe Huxley, le fait que les formes culturelles constituent des systèmes autonomes qui n’existent que par le biais d’opérations communicatives humaines démontre que l’évolution sociale des humains ne peut pas être expliquée en termes biologiques. Le passage d’un « hominidé » à un véritable humain réside dans cette transition : « La capacité de transmission cumulative de l’expérience a marqué un point critique dans le processus évolutif : le passage d’un mode biologique à un mode culturel d’évolution2. » Pour Huxley, ce processus ne se limite pas à l’origine du « langage » : tous les éléments de la culture sont communicatifs, en ce sens qu’ils expriment quelque chose de plus que leur matérialité. Qu’est-ce qui permet d’organiser, de préserver et de maintenir l’existence d’une culture à travers le temps ? Pour Huxley, la fonction de ce qu’il appelle les « expressions noétiques » ou les « organes de la conscience » est essentielle : ils constituent le fondement de la nature collective du système culturel, qui lui confère son unité et sa continuité dans le temps. Par exemple, les symboles, les rituels, les croyances, les systèmes de connaissances, les sciences et la philosophie « expriment tous la conscience ou l’expérience de manière diversifiée et organisée – esthétique et symbolique aussi bien qu’intellectuelle – puis communiquent et transmettent ces organisations de l’expérience3 ». La culture n’est autre que la transmission des pensées.
- 4 Peter Medawar, Uniqueness of the Individual, New York, Basic Books, 1958, p. 137.
2Dans le même ordre d’idées, le biologiste britannique Peter Medawar (pionnier de la transplantation d’organes) s’est demandé dans quelle mesure les principes biologiques et évolutifs pouvaient rendre compte du statut particulier de l’humain dans la longue histoire de la vie terrestre. Identifier les « instincts » comme l’origine des comportements (animaux ou autres) reviendrait à démontrer que ceux-ci n’ont pas été appris. Medawar ne nie pas l’existence des instincts humains. Cependant, il s’intéresse au fait que les humains, contrairement aux autres animaux, sont capables de former ce que l’on pourrait appeler des instincts artificiels. S’inspirant ici d’Alfred North Whitehead, Medawar observe que : « La civilisation progresse en augmentant le nombre d’opérations pouvant être effectuées sans y penser4. » Il faut cependant nuancer ce propos : la culture se préserve grâce à l’automatisation de comportements appris :
Assez paradoxalement, apprendre, c’est apprendre à ne pas penser à des opérations auxquelles il fallait autrefois penser ; nous nous efforçons en un sens de rendre l’apprentissage “instinctif”, c’est-à-dire de donner aux comportements appris le caractère approprié, adéquat et accompli des comportements instinctifs5.
Ainsi, comme Huxley, Medawar identifie l’exception humaine par la capacité à acquérir des routines pseudo-instinctives transmises et partagées collectivement. Cette considération ouvre la voie à une nouvelle définition de l’humain dans le cadre des sciences biologiques :
L’homme est unique parmi les animaux en raison du poids énorme que la tradition a acquis pour assurer la continuité, de génération en génération, des propriétés auxquelles il doit son aptitude biologique6.
- 7 Alfred Lotka, « The law of evolution as a maximal principle », dans Human Biology, 1945, p. 167-194
3L’important ici n’est pas le fait que les hommes utilisent des outils, puisque tous les animaux « utilisent » leur propre corps et, parfois, des objets matériels, pour se nourrir ou réaliser d’autres fonctions. Medawar cite l’essai d’Alfred Lotka de 1945 sur l’évolution exosomatique7, afin de préciser la qualité spécifiquement humaine de notre technicité : il insiste sur la nécessité de :
[…] faire la distinction entre les organes avec lesquels nous naissons et les organes fabriqués : instruments endosomatiques pour les yeux, les griffes, les ailes, les dents et les reins, instruments exosomatiques pour les télescopes, les cure-dents, les scalpels, les balances et les vêtements8.
Les humains, avec leurs prothèses exosomatiques (qui peuvent être physiques ou sensorielles) appartiennent bien au domaine de la biologie, mais deviennent capables de « suppléer » par des artefacts les fonctions biologiques, tout comme la nature le fait dans le cadre du développement et de l’évolution des organes endosomatiques entraînés par des schémas comportementaux instinctifs et finalisés. Ici, Medawar insiste sur le lien fondamental entre les substituts technologiques exosomatiques humains et le système organique du corps : les instruments sensoriels rétroagissent sur notre appareil sensoriel endosomatique. Et pourtant, l’idée d’une autonomie de la technologie se profile à travers ses analyses. S’il est vrai que toutes les technologies peuvent être caractérisées par leur organisation téléologique artificielle, et donc humaine, ses allusions aux nouvelles technologies militaires soulèvent des questions sur la nature de ce lien fondamental :
La relation entre l’instrument et l’utilisateur peut être très lointaine, dans le cas des missiles guidés et des moteurs conçus pour fonctionner sans attention, mais leur fonctionnement est le fruit de la conception humaine qui est implémentée en eux et, en principe, leur intégration fonctionnelle avec l’utilisateur demeure9.
4En ce qui concerne la cognition humaine, Medawar « déplore » la mode actuelle qui consiste à « décrire le cerveau comme une machine à calculer », non qu’il s’illusionne sur la structure physiologique du système nerveux, mais parce que, selon lui, les technologies ne constituent jamais les miroirs des fonctions biologiques. Les technologies constituent des extensions fonctionnelles au-delà du corps. L’ordinateur est donc un cerveau exosomatique, affirme Medawar :
Il remplit des fonctions semblables à celles du cerveau, tout comme les caméras ont des fonctions semblables à celles des yeux, les vêtements des fonctions semblables à celles de la peau, et les voitures à moteur des fonctions assumées endosomatiquement par les jambes10.
Comme l’affirme le neurobiologiste J. Z. Young, ami d’Alan Turing, dans son livre à connotation cybernétique sur le cerveau de la pieuvre :
- 11 J. Z. Young, A Model of the Brain, Oxford, Oxford University Press, 1964.
Dans son écriture et son art, son discours et ses machines, l’homme parvient à transférer hors de sa tête au moins certaines des caractéristiques de l’information qui s’y trouve. La formation de tels artefacts, disponibles pour l’usage de nombre d’entre nous, est notre unique caractéristique11.
Comme l’avaient noté Huxley et d’autres avant lui, Medawar souligne que la sphère technique a sa propre trajectoire évolutive. Les fonctions se transforment, s’améliorent ou disparaissent. Il rappelle néanmoins que l’évolution endosomatique (génétique) et l’évolution exosomatique (technique) sont toutes deux biologiques, en ce qu’elles sont toutes deux :
- 12 Peter Medawar, op. cit., p. 141.
[…] des modes d’activité des êtres vivants, et constituent des agents – dans une certaine mesure des agents alternatifs – d’augmentation des aptitudes biologiques, qui augmentent les propriétés permettant aux organismes de se maintenir en vie et de vaincre les menaces de leurs environnements12.
Les avantages et les risques de l’évolution exosomatique résident dans son rythme rapide et quelque peu imprévisible, qui est dû à une forme de transmission radicalement différente. Chez les humains, l’évolution de la culture technique dépend de la tradition, qui, comme l’écrit Medawar, « est dans le sens technique le plus étroit, un instrument biologique au moyen duquel les êtres humains conservent, propagent et augmentent les propriétés auxquelles ils doivent leur existence biologique et leur santé physique13 ». Cependant, contrairement à la transmission génétique, la transmission par la tradition peut être interrompue par des catastrophes ou des accidents. La stabilité des sociétés humaines dépend de la stabilité de ces canaux « non génétiques » de transmission, les instincts artificiels que constituent les normes sociales, et qui, tout en transmettant les traditions, doivent aussi demeurer ouverts à la transformation, en fonction des innovations techniques ou des pressions environnementales.
- 14 Karl Popper, Conjectures and Refutations: The Growth of Scientific Knowledge, London, Routledge, 19 (...)
5La théorie popperienne de la connaissance occupe une place intéressante dans la lignée des pensées de l’intelligence artificielle que nous tentons de suivre ici : non pas des pensées qui théorisent l’imitation ou la simulation artificielle de l’intelligence, mais des pensées qui s’intéressent à la technicité constitutive de l’intelligence elle-même. En effet, dans sa théorie épistémologique de la perception et de la connaissance, Popper travaille à la fois avec et contre la tradition kantienne. Dans une conférence de 1953 sur la relation entre conjecture et réfutation en science14, il mobilise le célèbre problème de l’induction pour introduire sa théorie : selon lui, tout aussi solide que soit la critique kantienne de Hume, Kant a poussé son argumentation trop loin. Si Popper reconnaît que l’esprit impose ses propres lois à la nature, comme le soutient Kant, il résiste néanmoins à l’argument selon lequel cela signifierait que ces lois sont nécessairement vraies. Popper insiste sur le fait que les « lois » que notre esprit impose à la nature sont souvent inadéquates (en ce sens, on pourrait soutenir que même les catégories apparemment fondamentales d’espace et de temps ont été falsifiées par de nouvelles recherches théoriques et expérimentales au xxe siècle).
6Mais pour autant, Popper ne s’accorde pas non plus avec Hume. Pour conclure sa critique du modèle psychologique humien de l’inférence inductive, Popper suggère d’envisager la construction d’une machine à induction. Turing avait déjà suggéré de construire une telle machine, dans son essai de 1950 intitulé « Computing Machinery and Intelligence ». Popper décrit alors un « monde simplifié » composé de jetons apparaissant successivement, dotés de caractéristiques variables très basiques, par exemple la couleur. Il soutient alors qu’« une telle machine peut “apprendre” par la répétition et “formuler” les lois de succession qui s’appliquent dans son “monde” ». Cela prouve-t-il que Hume a raison, que les esprits humains formulent des inférences inductives par habitude de la répétition ? Si séduisante que semble cette hypothèse, Popper n’y adhère pas :
En construisant une machine à induction, nous, les architectes de la machine, devons décider a priori ce qui constitue le “monde” de la machine ; quelles choses doivent être considérées comme similaires ou égales ; et quel genre de “lois” nous souhaitons que la machine puisse “découvrir” dans son “monde”. En d’autres termes, il faut construire dans la machine un cadre déterminant ce qui est pertinent ou intéressant dans son monde : la machine aura ainsi ses principes de sélection “innés”. Les problèmes de similarité auront été résolus pour elle par ses concepteurs, qui ont ainsi interprété le “monde” pour la machine15.
- 16 Karl Popper, Objective Knowledge: An Evolutionary Approach, Oxford, Oxford University Press, 1972.
Le véritable problème est de comprendre comment l’esprit peut concevoir un tel monde et faire des inférences justes sans se faire piéger à l’intérieur d’une construction complètement subjective. En d’autres termes, comment pouvons-nous conceptualiser la connaissance non a priori comme objective (c’est-à-dire comme dotée d’une validité logique qui ne se limite pas aux lois psychologiques d’association), étant donné les limites fondamentales de l’esprit humain et du système sensoriel ? Comme l’indique le sous-titre du livre de Popper de 1972, la réponse à ce problème suppose selon lui d’adopter une « approche évolutive » du problème de la connaissance16.
- 17 Karl Popper, « Epistemology Without a Knowing Subject », dans Objective Knowledge, op. cit.
- 18 Ibid., p. 115.
7Popper s’intéresse en effet à l’évolution de l’esprit et à la manière dont celui-ci participe à l’évolution de la connaissance elle-même, c’est-à-dire à son objectivation progressive. Dans son essai de 1967 intitulé « Une épistémologie sans sujet connaissant »17, Popper invoque une forme de connaissance véritablement objective : il observe alors qu’un livre demeure un support de savoir, qu’il soit lu ou non. Il va même plus loin en soutenant qu’un livre serait un livre quand bien même il n’aurait été écrit par personne. Consciemment ou non, Popper rejoint ici Charles Babbage et son rêve d’une machine à calculer automatique. La version popperienne de ce rêve est celle d’un ensemble de logarithmes générés par ordinateur et imprimés sur papier, peut-être « la meilleure série de livres logarithmiques » jamais produits, qui pourrait très bien ne jamais avoir été consultée pendant cinquante ans, mais qui contiendrait toujours des connaissances « objectives »18. Un livre n’est pas seulement constitué par sa matérialité, mais aussi par son potentiel à être compris : être compris signifie que les « marques » sont symboliques, susceptibles d’être interprétées au-delà des pages du livre et qu’elles constituent des médiations de la pensée. C’est en ce sens que, pour Popper, la connaissance peut être dite « objective » : le sens n’est pas simplement subjectif mais peut être compris et connu par plusieurs sujets.
- 19 Ibid., p. 116.
- 20 Karl Popper, « Of Clouds and Clocks », dans Objective Knowledge, op. cit., p. 222-223.
8Popper mentionne alors sa théorie des trois « mondes » : la première sphère est la réalité physique de l’univers, la seconde est celle des expériences psychiques des êtres sensibles et la troisième est le monde du sens ou de la pensée symbolique19. Dans cette troisième sphère, la causalité et la détermination ne se déduisent pas de la matérialité des objets porteurs de sens, mais du sens investi dans la forme matérielle des objets. Même l’univers physique ne constitue pas un système déterministe ou un « vaste automate », comme l’avaient cru les penseurs antérieurs. Et pourtant, l’idée selon laquelle les humains ne sont que des « machines » persiste, depuis son émergence au xviiie siècle et sa confirmation ultérieure à travers les progrès de la biologie et de la psychologie : cette idée demeure largement partagée parmi les scientifiques à l’époque de Popper, bien que dorénavant reformulée à travers l’analogie entre esprit et ordinateur. Popper mentionne alors l’essai de Turing de 1950 dans lequel celui-ci soutient que le comportement de l’ordinateur pourrait devenir indiscernable de celui d’un véritable humain20. Popper résiste à cette formulation : si même les physiciens contemporains travaillent avec des modèles non déterministes, l’hypothèse selon laquelle l’homme serait une machine n’est guère plausible. Et pourtant, l’action humaine n’est pas entièrement aléatoire.
- 21 Ibid., p. 230.
- 22 Ibid., p. 145.
- 23 Ibid., p. 145.
9Popper propose alors un nouveau cadre pour comprendre l’action humaine, qu’il appelle le « contrôle plastique » : il s’agit d’expliquer comment un corps individuel peut être « contrôlé » par la signification de quelque chose, tout aussi éphémère et abstraite soit-elle. Une série de petits bouts de papier peut, par exemple, contrôler (via des entrées d’agenda, des tickets, des cartes, etc.) « les déplacements physiques d’un homme de manière à le reconduire de l’Italie au Connecticut21 ». Il s’agit alors d’une causalité douce, car l’homme aurait pu suivre de nombreux chemins alternatifs. Sans nier l’importance de l’individu comme système à la fois physique et mental, Popper concentre son investigation philosophique sur le troisième monde des significations symboliques, qui jouit selon lui d’une certaine autonomie (non pas une automaticité, mais bien une autonomie). L’interaction entre les éléments de cette troisième sphère est toujours imprévisible. Pour Popper, l’idée centrale est que le monde des hypothèses, des conjectures, des théories, du langage, etc. est un monde objectif, capable de produire ses propres effets et ses propres possibilités inattendues. On pourrait dire qu’il est créé par des esprits humains mais fonctionne selon une organisation indépendante : la sphère autonome de la connaissance est réglée par un processus évolutif de compétition (comme dans le monde biologique)22. Popper redéfinit l’évolution biologique comme un processus de résolution de problèmes mis en œuvre par des êtres vivants, avec des « solutions provisoires » physiquement instanciées dans les organismes, solutions qui seront conservées dans le patrimoine génétique (la mémoire de l’espèce) si elles ne conduisent pas à des erreurs fatales23. Sans le citer, Popper reprend ici les termes de Lotka – endosomatique et exosomatique – pour désigner les différents types d’outils que les organismes emploient pour résoudre le défi de la survie : les organes « exosomatiques », comme les toiles d’araignées ou les nids d’abeilles, en sont des exemples.
10En fin de compte, Popper relit et réécrit Kant en termes évolutionnistes : nos systèmes sensoriels sont organisés par des « théories » qui ont été testées dans les conditions réelles de la lutte évolutive24. Mais c’est la nature particulière de l’exosomatisation humaine qui a permis non seulement d’accélérer le temps évolutif, mais aussi de tester des conjectures et des théories dans les environnements virtuels de la sphère symbolique. Dans la lignée de la pensée de Leroi-Gourhan et d’autres paléoanthropologues de l’époque, Popper considère l’exception humaine comme une conséquence de l’extériorisation technique :
L’évolution animale procède en grande partie, mais pas exclusivement, par des modifications d’organes (ou de comportements) et par l’émergence de nouveaux organes (ou de nouveaux comportements). L’évolution humaine procède, quant à elle, en grande partie, par le développement de nouveaux organes hors des corps et des personnes : “exosomatiquement”, comme disent les biologistes. Ces nouveaux organes sont les outils, les armes, les machines, ou encore les maisons25.
Popper a sans doute emprunté la terminologie de Lotka à son ami le biologiste Peter Medawar, qui, comme nous venons de le voir, a fondé sa propre théorie de l’évolution culturelle sur le concept d’exosomatisation. Popper soutient une position similaire, à savoir que si certains animaux peuvent parfois utiliser des outils ou fabriquer des choses (comme des nids d’oiseaux), quelque chose de différent se passe dans la vie humaine : l’espèce humaine a essentiellement choisi de contourner l’évolution biologique, refusant d’attendre les améliorations mais les construisant à la place de la nature. Comme l’écrit Popper :
Le genre d’évolution exosomatique qui m’intéresse ici est la suivante : au lieu de développer de meilleurs cerveaux et une meilleure mémoire, nous développons du papier, des stylos, des crayons, des machines à écrire, des dictaphones, des imprimeries et des bibliothèques26.
- 27 Ibid., p. 252-253.
- 28 Ibid., p. 239.
Toutes ces technologies sont des technologies de la pensée. Et Popper, comme Whorf et d’autres avant lui, sait que la pensée humaine est conditionnée et rendue possible par ses véhicules et ses supports – y compris les prothèses très matérielles de la mémoire. Les nouvelles technologies d’extériorisation augmentent notre langage et nous offrent de nouvelles possibilités de pensée. L’idée cartésienne de « sujet pensant » doit donc céder la place à celle d’un esprit individuel formé par la sphère autonome des significations symboliques, constituant un ensemble de systèmes et de sous-systèmes en interaction, qui produit continuellement de nouvelles idées, de nouveaux problèmes et de nouvelles conjectures27. Popper ajoute une précision importante : « La dernière étape principalement mobilisée pour soutenir nos capacités argumentatives est le développement des ordinateurs28. » L’intelligence et la production de connaissances objectives ne peuvent être comprises en dehors de l’évolution du sens tel qu’il s’extériorise dans des formes techniques exosomatiques
- 29 Gregory Bateson, Steps Toward an Ecology of Mind, Chicago, University of Chicago Press, 1972.
- 30 Ibid., p. 317.
11En 1972, année de publication de La connaissance objective de Popper, Gregory Bateson publie lui aussi un recueil d’essais et de conférences, couvrant des décennies de recherche et de réflexion29. Il est intéressant de noter que le célèbre essai de Bateson sur l’alcoolisme recoupe les considérations de Popper sur l’autonomie de la troisième sphère, celle de la pensée collective : les programmes en douze étapes suggèrent aux individus dépendants de se soumettre à une « puissance supérieure » qu’ils ne peuvent pas contrôler, mais, selon Bateson, cette puissance doit être comprise non pas comme une puissance divine mais comme la puissance inhérente aux systèmes sociaux ou aux systèmes de formation culturelle. Cependant, l’idée de Bateson qui nous importe ici est celle selon laquelle l’esprit humain n’est pas fermé sur lui-même, mais se forme au contact de différents systèmes, à la fois biologiques, sociaux et techniques. La vie consciente n’est qu’une perspective partielle sur l’ensemble des processus qui composent la pensée. Le privilège de la conscience ignore tout du réseau et des circuits qui interconnectent les divers systèmes et les divers processus. C’est cette idée qui fonde la critique formulée par Bateson à l’égard de l’intelligence artificielle. Selon lui, l’ordinateur n’est pas le siège de « processus mentaux », car l’ordinateur n’est jamais un système isolé : « L’ordinateur est une partie d’un circuit plus vaste qui comprend toujours un homme et un environnement à partir duquel les informations sont reçues et sur lesquels les messages émis par l’ordinateur ont un effet. On peut légitimement dire que ce système total, ou cet ensemble, présente des caractéristiques mentales.30 » Cela revient à admettre que la pensée est un processus qui se déroule au moins en partie hors du corps lui-même, de manière exosomatique.
- 31 Ibid., p. 465.
- 32 Ibid., p. 467.
12Pour Bateson, comme pour Popper, la pensée, et en particulier la pensée intelligente, est un processus qui « fonctionne par essais et erreurs et a un caractère créatif » : les frontières de la pensée sont difficiles à déterminer. Dans un célèbre texte, qui renvoie à la philosophie des xviie et xviiie siècles, Bateson propose une expérience de pensée : « Considérez un aveugle avec un bâton. Où commence le moi de l’aveugle ? Au bout du bâton ? Au manche du bâton ? Ou à mi-hauteur du bâton ? Ces questions sont absurdes, car le bâton est une voie par laquelle les informations se transmettent en se transformant, de sorte que tracer une ligne de délimitation à travers cette voie, revient à couper une partie du circuit systémique qui détermine la locomotion de l’aveugle31. » L’épistémologie cybernétique de Bateson constitue une épistémologie de l’exosomatique, une épistémologie de la prothèse : « L’esprit individuel est immanent mais ne se situe pas seulement dans le corps. Il se situe également dans les voies et les messages extérieurs au corps ; l’esprit individuel n’est qu’un sous-système d’un esprit plus grand32 ».
13Par conséquent, pour Bateson, la technologie n’est jamais un simple outil ou un simple instrument : l’émergence de nouvelles formes de pensée à l’ère informatique est le résultat de nouveaux réseaux d’information et de transformation. La comparaison entre un cerveau humain et sa version électronique n’est pas pertinente, puisque, comme il l’écrit, « les frontières entre l’homme, l’ordinateur et l’environnement sont des frontières purement artificielles et fictives. C’est le long de ces frontières que l’information est transmise. Elles ne constituent donc pas les frontières du système de pensée33. » Bref, selon l’épistémologie de Bateson, « ce qui pense, c’est le système total… ». Le défi consiste donc, selon lui, à stabiliser ces systèmes hybrides, qui ne sont jamais naturellement « homéostatiques » compte tenu des fonctions et des structures indépendantes qui les composent. La stabilité est constamment menacée par les tendances évolutives incommensurables des technologies, des organisations sociales et de l’expérience psychique. Selon Bateson, ce que nous avons appelé l’évolution exosomatique peut toujours provoquer une pathologie potentielle. La crainte n’est pas que les machines automatiques entrent en concurrence avec les êtres humains : au contraire, le problème est que l’introduction des extensions exosomatiques de la pensée et de l’action humaines risquent de contraindre de plus en plus les êtres humains en les soumettant au « contrôle plastique » des systèmes collectifs intégrés dans les technologies, qui fonctionnent désormais à une échelle et à un rythme largement supérieur à ceux des capacités biologiques. Les questions posées par Bateson sur le système homme-environnement nous invite à interroger les interactions entre humains et machines, notamment dans la perspective de l’augmentation de l’intelligence.
- 34 Vannevar Bush, « As We May Think », The Atlantic Monthly, July 1945, p. 101.
14La notion d’« amplification de l’intelligence » a été inventé pour la première fois par le cybernéticien William Ross Ashby dans les années 1950. Dans la mesure où les machines peuvent amplifier la puissance physique, il devrait être possible, selon Ashby, de créer des amplificateurs d’intelligence. Ashby part de l’idée selon laquelle un amplificateur ordinaire utilise une entrée pour organiser le surplus d’énergie que l’amplificateur maintient sous une forme non dirigée. En d’autres termes, un amplificateur convertit la puissance non dirigée en puissance dirigée. Par analogie, on pourrait imaginer un amplificateur d’intelligence qui convertit des « informations » non dirigées en une formule utilisable au moyen de l’intelligence humaine comme guide de sélection et d’organisation. Cette idée d’amplification de l’intelligence était au cœur de l’influent essai de Vannevar Bush sur les technologies de l’information intitulé « As We May Think »34 et publié dans The Atlantic à la fin de la guerre en 1945, puis en version condensée dans le magazine Life, avec des illustrations provocatrices montrant des technologies de la connaissance alors radicalement nouvelles. Sur la base de sa vaste expérience dans la recherche scientifique militaire américaine, qui comprenait le financement d’ordinateurs et d’autres systèmes d’information automatiques, Bush pensait que l’un des principaux défis à relever en temps de paix serait celui de la prolifération des informations : il prévoyait que le chercheur individuel serait submergé par le stock croissant de connaissances antérieures « non dirigées » et par les exigences requises pour produire des dossiers scientifiques de recherche.
15Dans cet essai spéculatif, Bush s’inspire de ses propres expériences techniques (notamment la construction d’un ordinateur analogique, l’analyseur différentiel) pour esquisser un avenir possible, où les avancées technologiques libéreraient le travailleur scientifique et augmenteraient sa productivité. Tout d’abord, Bush montre comment les chercheurs pourraient utiliser des dispositifs d’enregistrement automatiques (une caméra frontale et une imprimante vocale automatique) qui leur permettraient de concentrer leur attention sur l’investigation elle-même, et non sur sa documentation. Deuxièmement, Bush soutient que certains processus analytiques habituellement exécutés par les scientifiques pourraient être automatisés. L’objectif est toujours la libération de l’esprit : l’esprit doit faire le travail qu’il fait le mieux, c’est-à-dire penser de manière créative. C’est pourquoi Bush imagine (en se basant sur la réalité de l’informatique numérique de l’époque) ce qu’il appelle un processeur logique automatique, à savoir, un dispositif qui soulagerait les travailleurs intellectuels des tâches mentales répétitives. Cette invention témoigne à la fois d’un effort pour accroître l’efficacité et d’une volonté de cultiver l’intellect humain. Comme l’a expliqué Bush, l’aspect créatif de la pensée a toujours reposé sur le jugement intuitif : il y aurait donc une opportunité pour la machine d’aider l’esprit, ouvrant un nouvel espace à explorer.
16La pièce maîtresse de l’essai visionnaire de Bush, qui en fait non seulement un classique de la technologie de l’information mais aussi un précurseur des bases de données et de l’informatique en réseau (avec l’ordinateur imaginé par Turing en 1936), est une machine appelée le Memex. Le but de cette technologie fantastique était de rendre toutes les connaissances antérieurement enregistrées disponibles instantanément pour n’importe quel esprit individuel. La véritable pensée, pour Bush, impliquait de naviguer et de sélectionner les informations pertinentes en fonction des questions étudiées. Mais le Memex était bien plus qu’une simple forme mécanique de mémoire scientifique : c’était surtout une technologie permettant de stocker la pensée créative elle-même. Selon Bush, l’esprit humain ne progresse qu’en établissant des connexions et des relations entre les données. Le Memex devait ainsi permettre de marquer et de sauvegarder en permanence les « chemins » associatifs de la pensée, qui avaient conduit à des idées importantes et productives. Silencieusement, en arrière-plan, les relations saillantes d’un chemin de pensée sont indexées et enregistrées avec les enregistrements originaux, de sorte que le chemin de pensée peut être ressuscité, manuellement ou automatiquement lorsque des chaînes associatives se rencontrent dans la machine, sans la présence d’un sujet humain. La mémoire artificielle du Memex constituait ainsi une copie mécanisée du cheminement de pensée et de la structure mémorielle du cerveau, mais élargie et organisée avec des marqueurs et des index. De plus, les chaînes associatives devaient pouvoir être facilement augmentées et transférées d’un système Memex à un autre, créant ainsi la possibilité d’intégrations encore plus sophistiquées, entre les connaissances, entre les disciplines et entre les humains et les machines.
17Selon Bush, « des formes entièrement nouvelles d’encyclopédies apparaîtront, sur la base du maillage des chaînes associatives parcourues, prêtes à être déposées et amplifiées dans le Memex35 ». Bien sûr, l’esprit a toujours stocké sa pensée à l’intérieur et à l’extérieur du cerveau, à travers divers supports médiatiques – cahiers scientifiques, diagrammes, transcriptions de cours, etc. Cependant, selon Bush, la complexité et la puissance technique du Memex ouvraient une possibilité nouvelle : celle d’intégrer dans un même espace tous ces éléments de mémoires externes dispersés, avec l’ensemble de la mémoire collective stockée. Une fois l’intellect intégré dans le support technique du Memex, la frontière entre le cerveau ou l’esprit individuel et la culture collective de l’humanité se verrait brouillée. Les capacités intellectuelles de sélection et d’association des esprits individuels s’inscriraient de manière permanente dans la mémoire collective externalisée, et non seulement dans tel ou tel système nerveux faillible ou dans des substituts matériels inefficaces. L’essai de Bush s’achève sur une spéculation encore plus fantastique, selon laquelle les interfaces physiques – comme les écrans d’affichage et les dispositifs de marquage – finiront par céder la place à des transferts d’informations électriques, directement transmises à notre cerveau à partir de la mémoire externe. Après tout, le cerveau n’est qu’une autre machine électrique, comme le soutiennent les collègues cybernéticiens de Bush au MIT. La mémoire neuronale pourrait ainsi être remplacée par son jumeau artificiel, libérant ainsi l’esprit pour la pensée intelligente et créative, en lui accordant le privilège de l’oubli. L’idée d’amplification de l’intelligence repose donc, chez Bush, sur la libération d’un esprit pensant, trop souvent retardé ou égaré par les quantités d’information et les routines de l’analyse. Mais Bush ne se demande pas si la pensée elle-même pourrait être transformée par cette nouvelle technologie. Depuis le développement des ordinateurs (souvent considérés comme des « cerveaux numériques ») dans l’après-guerre et leur déploiement commercial, le rêve de Bush semble de plus en plus plausible : des capacités mentales comme l’intuition, la perspicacité ou le jugement, que l’on croyait réservées aux humains, semblent pouvoir être prises en charge par les ordinateurs. Dès les années 1950, Allen Newell et Herbert Simon construisaient un programme imitant les méthodes heuristiques de résolution de problèmes mobilisées par la cognition humaine. L’intelligence artificielle n’en était encore qu’à ses débuts, mais les ordinateurs semblaient déjà extrêmement prometteurs pour contribuer à l’activité intellectuelle, comme l’avait anticipé Bush – à ceci près que ces nouvelles machines, censées amplifier l’intelligence, ouvraient aussi le risque d’une automatisation de la pensée.
- 36 Joseph Licklider, « Man-Computer Symbiosis », IRE Transactions on Human Factors in Electronics, vol (...)
- 37 Ibid., p. 4.
18Dans son essai historique sur les interactions entre hommes et ordinateurs, intitulé « Man-Computer Symbiosis » et publié en 196036, Joseph Licklider soutient que dans un « avenir lointain », il pourrait s’avérer que « les machines électroniques ou chimiques surpassent le cerveau humain dans la plupart des fonctions que nous considérons aujourd’hui comme exclusivement humaines37. » En dépit de ces performances informatiques à venir, Licklider demeure cependant plus préoccupé de tirer parti de la puissance de l’ordinateur pour amplifier la capacité intellectuelle humaine. Il mobilise ainsi le terme de « symbiose », issu de la biologie, pour décrire une relation d’interdépendance entre deux « organismes », dont chacun a besoin de la présence de l’autre pour se maintenir en vie. Licklider ne considérait pas l’ordinateur comme un outil : il suggérait plutôt que les esprits humains devraient coopérer avec les ordinateurs, afin de démultiplier les forces respectives des hommes et des machines, à travers la formation d’un tout plus intelligent. Selon lui, l’avenir de l’esprit humain dépend de l’ordinateur :
Nous espérons que […] les cerveaux humains et les machines informatiques soient couplés très étroitement, et que le partenariat qui en résulte puisse penser comme aucun cerveau humain n’a jamais pensé et traiter les données d’une manière nouvelle par rapport à ce que font les machines de traitement de l’information que nous connaissons aujourd’hui38.
Le but consiste à réduire ou éliminer le travail « mécanique » de l’esprit en augmentant la réactivité des ordinateurs : « Les machines informatiques feront le travail routinier qui doit être fait pour ouvrir la voie aux idées et aux décisions39 ». Les intuitions et les décisions (ce que Turing décrivait comme l’incalculable) sont le propre de l’esprit humain : la vitesse et la flexibilité de la représentation informatique des données pourraient ainsi libérer l’esprit pour la réflexion. Ces considérations résonnent avec les formulations de Bush.
19Cependant, selon Licklider, l’ordinateur a aussi la capacité d’organiser les informations et les données d’une manière qui dépasse les facultés humaines : l’ordinateur peut ainsi conduire l’esprit dans des zones de pensée radicalement nouvelles, l’ouvrir à des questions imprévisibles, à des opportunités inattendues et à des défis qui demeureraient inimaginables sans le traitement de l’information à grande vitesse. L’ordinateur aurait ainsi une fonction analogue à ces prothèses physiques qui permettent d’accomplir des travaux qualitativement différents en fournissant des extensions aux corps. L’ordinateur doit donc être considéré comme indispensable (et non plus seulement comme complémentaire) au progrès de la pensée, et non seulement comme un nouvel outil. Comme l’écrit Licklider : ce « partenariat symbiotique effectuera des opérations intellectuelles beaucoup plus efficacement que l’homme seul ne peut les effectuer40 ». Ainsi, selon Licklider, l’informatique interactive ne consiste pas en une division du travail entre hommes et machines mais plutôt en une chorégraphie intégrant les fonctions des uns et des autres dans un ensemble plus vaste : la puissance de l’esprit et la puissance de l’ordinateur ne seraient amplifiées qu’au sein de cette nouvelle entité hybride. Dès lors, l’intelligence doit être considérée comme une fonction de cette unité symbiotique, et non comme celle d’un esprit individuel faisant usage d’un outil.
- 41 Douglas Engelbart, « Augmented Man, And A Search For Perspective », 1960 [en ligne].
20Douglas Engelbart – connu pour avoir inventé la souris d’ordinateur et le traitement de texte dans les années 1960 – a été profondément influencé par l’essai de Bush (« As We May Think ») : il raconte qu’il l’avait lu alors qu’il était affecté aux Philippines pendant son service dans la marine. Ainsi, lorsqu’Engelbart eut l’opportunité de travailler sur les interactions hommes-machines à l’Institut de recherche de Stanford à la fin des années 1950, il insista sur le fait que toute nouvelle innovation devait être comprise comme faisant partie d’un réseau plus large de technologies et de pratiques soutenant l’activité de l’esprit humain. Ayant travaillé à la construction du premier ordinateur numérique de Californie à l’université de Berkeley dans les années 1950, Engelbart avait pris conscience du potentiel révolutionnaire de cette nouvelle technologie. Comme il l’écrivait en 1960 : « Dans notre culture, est récemment apparu un artefact de “manipulation de symboles” d’une telle puissance que nous sommes certains qu’il fera beaucoup pour “étendre l’intellect de l’homme”41. » Cependant, Engelbart savait aussi que ce nouvel artefact devait être intégré dans un système de connaissances plus large afin de fonctionner efficacement :
L’ordinateur, en tant qu’artefact accessible dans l’environnement local de l’homme, doit être considéré comme un élément parmi d’autres dans le système plus large de techniques, de procédures et d’artefacts que la culture fournit pour augmenter la capacité de l’esprit à résoudre des problèmes complexes42.
- 43 Douglas Engelbart, Augmented Human Intellect Study, 1961.
21Engelbart avait donc remarqué que l’esprit humain était intégré dans un système d’activités technologiques, culturelles et médiatiques plus vaste. Selon lui, le système nerveux possède certaines « capacités de base », comme la perception, la mémoire, l’abstraction et, plus particulièrement, l’intuition et le jugement. Cependant, lorsque nous interagissons avec le monde, le système nerveux utilise des éléments médiateurs pour se « coupler » à des problèmes concrets, éléments qu’Engelbart décrit comme des « moyens d’augmentation »43. Il ne s’agit pas de simples outils au sens habituel du terme : pour Engelbart, l’augmentation inclut le langage, les technologies et les procédures. Par conséquent, le système nerveux humain, toujours ancré dans un milieu artefactuel et culturel, ne fonctionne pas de manière autonome. Nos cerveaux sont entraînés à se comporter de certaines manières afin de pouvoir mobiliser les outils dont ils disposent : le système nerveux doit intérioriser un mode de vie partagé. Englebart soutient que les normes sociales et culturelles, aussi indépendantes soient-elles, ne peuvent être instanciées qu’à travers les comportements individuels – ce qui suppose que les systèmes nerveux individuels sont façonnés par ces normes dès l’origine.
22Le célèbre rapport publié par Engelbart en 1962 et intitulé « Augmenting Human Intellect : A Conceptual Framework », doit être lu non seulement comme un simple rapport technique, mais plutôt comme la publication d’un rêve. Le rapport s’ouvre sur une expérience de pensée. Imaginez, dit Engelbart, un « aborigène » arrivant pour la première fois dans une ville occidentale moderne : malgré une physiologie identique à la nôtre, un tel individu serait totalement incapable de s’orienter dans notre monde. Il serait incapable d’accomplir les tâches les plus simples (utiliser un téléphone par exemple) car il ne posséderait pas les connaissances ou les compétences pour le faire. Et bien sûr, l’inverse serait également vrai : dans toutes cultures, les individus humains développent ce que Michael Polanyi décrit comme une « connaissance tacite ». Le point de départ des réflexions d’Engelbart réside dans l’idée selon laquelle un système nerveux humain ne comprend jamais son monde directement : il ne perçoit et n’agit qu’à travers des médiations externes. Selon Engelbart, le fait d’exploiter le « pouvoir neuronal » pour affronter les nouveaux défis du monde d’après-guerre implique donc de comprendre comment la pensée est rendue possible et conditionnée par des extensions et suppléments de toutes sortes. Selon Engelbart, l’esprit a toujours été « augmenté », et cela de trois manières différentes. Premièrement, par des artefacts : ce sont les outils matériels et les instruments qui permettent à l’esprit de manipuler les choses, qu’elles soient physiques ou symboliques. Deuxièmement, par la langue : fortement influencé par les travaux du linguiste Benjamin Lee Whorf, Engelbart considère la langue comme la structure permettant de comprendre chaque culture. Chaque culture possède un ensemble de catégories qui « canalisent la raison » : les concepts intellectuels sont conditionnés par l’organisation du langage. Troisièmement, par des méthodes : les procédures et les stratégies qui organisent l’activité. Ces méthodes évoluent et sont transmises de générations en générations à travers des processus d’éducation, à la fois formels et informels. Enfin, Engelbart explique que ces trois moyens d’augmentation – les artefacts, le langage et les méthodes – ne sont pas opérationnels tant que l’esprit individuel n’est pas formé à leur utilisation. Un esprit actif est un esprit déjà entraîné à travailler de telle ou telle manière : cet entraînement correspond à l’acquisition d’habitudes par le système nerveux. Engelbart parle du système H-LAM/T, c’est-à-dire un humain utilisant langage, artefacts et méthodes à travers lesquels il forme son esprit. Engelbart insiste sur la nécessité d’adopter un point de vue holistique : ce système doit être étudié « comme un tout interactif à partir d’une approche synthétique44 ».
23Selon Engelbart, l’intelligence est « insaisissable et distribuée à travers une hiérarchie de processus fonctionnels45 » : elle découle de « l’organisation » du système et non d’une simple capacité isolée. Il mobilise le terme de « synergie » pour expliquer que la combinaison d’éléments peut créer quelque chose de plus grand que la somme des parties. Dans une telle perspective, la cognition humaine ne dépend donc plus seulement des conditions biologiques : au contraire, elle apparaît comme naturellement prothétique. Selon Engelbart, les progrès de nos capacités de résolution des problèmes proviennent de l’évolution de nos augmentations techniques et culturelles, qui réorganisent en retour nos cerveaux et font émerger de nouvelles structures mentales et de nouveaux comportements intellectuels. Le développement de l’ordinateur numérique promet ainsi de transformer très profondément les systèmes H-LAM/T : Engelbart considère que cette invention technologique ouvrira la voie à une nouvelle étape dans l’évolution de la puissance intellectuelle – à condition que l’ordinateur soit correctement intégré au système, la manipulation automatisée des symboles à grande vitesse pourrait produire des concepts et des possibilités épistémologiques nouvelles, au point de transformer l’esprit humain.
24Le rapport d’Engelbart constitue ainsi un plan pour l’intégration productive et bénéfique des ordinateurs dans le système H-LAM/T. Une partie essentielle de ce plan implique de rendre les ordinateurs plus faciles à utiliser, afin d’améliorer les performances de l’intellect humain. Comme Licklider et Bush avant lui, Engelbart savait qu’il s’agissait d’isoler ce qui était spécifiquement humain au sein du système, afin de libérer l’intellect des fonctions pouvant être assurées par les prothèses technologiques. Dans la vision d’Engelbart, l’esprit était principalement utilisé dans le système en tant que fonction exécutive, chargée de sélectionner, organiser et modifier les nombreux processus disponibles pour résoudre des problèmes particuliers. L’esprit humain constitue le mécanisme « d’attention » du système : l’esprit ayant une capacité finie limitée par la structure de notre cerveau, il a donc besoin d’être libéré pour pouvoir prêter attention à ce qui est important. L’esprit, responsable de la prise de décisions, doit être ouvert à la révélation d’idées nouvelles susceptibles d’orienter le système dans une direction productive : l’ordinateur doit donner à l’esprit humain l’espace nécessaire pour errer et expérimenter, tout en lui fournissant des concepts et des possibilités qui dépassent les formes habituelles de langage.
25À l’image des approches critiques de l’IA dans les années 1960, comme celle d’Hubert Dreyfus par exemple, Engelbart ne pensait pas que la signification humaine d’une situation pourrait un jour être automatisée : les processus de pensée non formalisables, comme les intuitions ou l’apprentissage par essais et erreurs, n’ont pas vocation à être supplantés, mais plutôt à être soutenus. L’ordinateur doit offrir à l’intellect des représentations rapides et flexibles des informations afin de faire émerger de nouvelles relations entre les données et de nouvelles possibilités de pensée. La résolution de problèmes ne constitue pas un processus linéaire et prévisible, ni un processus pouvant être prescrit de manière normative. L’esprit est guidé par des procédures normatives et des systèmes automatisés, mais le plus important est peut-être de pouvoir briser les routines afin d’en introduire de nouvelles : la décision et la perspicacité ne sont pas programmables, même si l’esprit humain est un produit du milieu technique et culturel. Bien que formé dans un milieu, l’esprit jouit d’une capacité d’ouverture, qui permet l’exercice de la liberté et de l’invention – l’autonomie dans l’automaticité.
- 46 Garrett Hardin, « An Evolutionist Looks at Computers with some Alarm », Datamation, vol. 15, 1969, (...)
26En dépit des nouvelles possibilités ouvertes par les projets d’augmentation artificielle de l’intelligence, dès 1969, le biologiste évolutionniste Garrett Hardin s’interrogeait dans une revue informatique sur le danger de l’évolution exosomatique46, c’est-à-dire de l’évolution de ce que nous considérons habituellement comme de simples outils. Selon lui, la décision d’extérioriser les fonctions n’entraîne aucune perte globale pour le système dans son ensemble, mais plutôt un déplacement :
L’invention du couteau n’a causé aucune perte globale de fonction. La fonction a simplement été déplacée (en partie) de l’intérieur de l’organisme humain vers l’extérieur – de sa mâchoire, qui fait partie de lui, à son couteau qui n’en fait pas partie. Le couteau fait partie d’une grande classe d’appareils auxquels un sage évolutionniste du nom de A. J. Lotka a donné le nom d’organes exosomatiques47.
Cependant, la technologie exosomatique peut conduire à une dégénérescence des capacités endosomatiques naturelles. Dès lors, l’entrée dans le domaine de l’intelligence exosomatique implique de nouveaux risques et de nouveaux dangers : nous prenons le risque de l’extériorisation, donc de la perte, de la pensée elle-même. D’où la proposition d’« athlétisme intellectuel » développée par Hardin, qui suggère de maintenir, d’entraîner et de cultiver l’intelligence humaine dans le milieu des systèmes techniques informatiques.