1Nous souhaitons dans cet article étudier la désuétude du concept d’intelligence artificielle (IA), tel qu’il fut élaboré au milieu des années 1950. L’IA fut une discipline maîtresse de la science cognitive à sa naissance, et toutes deux furent fondées sur une hypothèse explicitement posée par les pionniers, que les processus mentaux pouvaient être expliqués comme des calculs symboliques, et qu’ils pouvaient donc être, au moins théoriquement, répliqués par un ordinateur. Cette hypothèse computationnelle de l’esprit a été abandonnée progressivement au cours des années 1980.
- 1 Nous faisons ici allusion au rapport dévastateur de Minsky et Papert sur les réseaux (...)
2Il faut préciser que le concept d’intelligence artificielle que nous allons examiner ici n’a que peu de rapports avec ce qui est actuellement désigné de ce nom. L’IA défraie aujourd’hui régulièrement la chronique par ses succès – comme la victoire d’un programme contre le champion du monde de go en 2016, par ses conséquences avérées ou anticipées sur nos vies – privauté des données, commerce, emploi, justice, etc. – par ses enjeux géopolitiques également. Au contraire, l’intelligence artificielle des années 1950-1970 était une affaire exclusivement académique et se contentait à peu près de jouer aux échecs, de résoudre des petites énigmes mathématiques, et de s’essayer à maîtriser la grammaire de l’anglais. Mais elle avait, paradoxalement, une ambition bien plus grande que l’IA actuelle. Ces travaux étaient envisagés comme des exercices et des explorations préparatoires de l’objectif ultime : découvrir les algorithmes fondamentaux qui permettent à l’être humain d’appliquer son intelligence à n’importe quel problème. De ce fait, la première IA s’intéressait aussi bien à la psychologie de l’intelligence qu’à la logique et à la formalisation des méthodes du raisonnement. Elle ne faisait par contre que très peu cas des méthodes massivement statistiques (et terriblement efficaces) qui font le succès de l’IA d’aujourd’hui – si bien qu’on l’accuse même d’en avoir retardé le développement1. Cette IA permit par contre à l’informatique naissante de faire des bonds conceptuels majeurs, notamment dans la conception des langages de programmation.
3La distinction entre ces deux façons de concevoir l’IA est consacrée par l’étiquette « GOFAI » (good-old-fashioned artificial intelligence, « cette bonne vieille IA ») dont on affuble affectueusement la première manière. Cette étiquette trouve son origine dans un ouvrage de [Haugeland 1985], où ce philosophe analyse et évalue la justification épistémologique de la discipline. Il faut noter qu’il n’utilise pas l’expression de manière péjorative, mais pour la distinguer des nouvelles méthodes hétérodoxes qui gagnaient en audience à cette époque. Le milieu des années 1980 constitue en effet une charnière, qui voit s’achever les derniers grands programmes d’IA classique, et apparaître le connexionisme, qui tente de modéliser les phénomènes de l’intelligence par des réseaux de neurones : l’ouvrage référence sur ce sujet, Parallel Distributed Processing, paraît en 1987 [Rumelhart & McClelland 1987]. Haugeland devait certainement avoir connaissance de ces travaux, et percevoir que son analyse épistémologique ne convenait pas à cette manière hétérodoxe de concevoir l’IA – qu’elle ne visait tout simplement pas le même objectif que l’IA qu’il étudiait :
Je ne nie pas, bien sûr, qu’il y ait de nombreuses théories de l’esprit, y compris des mécanismes intéressants ne relevant pas de l’IA, et des modèles informatiques. [...] Pour marquer l’usage précis que je veux en faire, j’ai capitalisé « Intelligence Artificielle » partout ; mais, au cas où ce ne serait pas suffisant, ou si quelqu’un veut utiliser ces mots pour un autre rôle, on pourrait aussi parler plus explicitement de ce que j’appellerai la « bonne vieille intelligence artificielle » – GOFAI. [Haugeland 1985, 112, ma traduction]
4Dans l’ouvrage d’Haugeland, les termes de « bonne vieille IA » n’ont pas encore de connotation péjorative, mais évoquent plutôt une tradition connue et éprouvée, par opposition à des innovations intrigantes et tapageuses. Mais ce qu’il importe de relever c’est, outre son pressentiment que les nouvelles recherches ne relèvent pas du même cadre théorique, sa certitude que l’IA n’est pas seulement un projet technologique – comme elle l’est devenue aujourd’hui – mais l’expression de thèses théoriques concernant la nature de l’esprit, qu’il juge « attractives, voire irrésistibles » et qui justifient l’exclusivité de son analyse philosophique.
- 2 L’expression est associée à l’IA dès le rapport d’Hubert Dreyfus de 1965, Alchemy and Ar (...)
5La première IA est donc indissociablement un projet théorique et un projet technologique. Ses résultats théoriques se traduisent par des programmes concrets qui résolvent des problèmes avec succès, comme le joueur de dames de Arthur L. Samuel (1955), Logic Theorist de Simon, Newell & Shaw (1956), le General Problem Solver, des mêmes (1959), Automated Mathematician de Doug Lenat (1976). L’histoire de cette première IA est bien connue, elle a été racontée par ses protagonistes eux-mêmes à travers leurs ouvrages et leurs interviews, et par les synthèses historiques informées de [McCorduck 1979], [Crevier 1993], [Boden 2006]. Ce que nous souhaitons avancer ici, c’est que l’hypothèse computationnelle, telle qu’elle fut initialement comprise, impliquait une conception non-standard de la science, que nous nous risquerons à qualifier d’« alchimique2 » (section 2). La prise de conscience de ce cul-de-sac philosophique fut progressive, liée à l’accumulation de blocages scientifiques et techniques, au retrait conséquent des financements, mais également à une critique philosophique vigoureuse. Le développement de la science cognitive depuis trente ans, et la pluralité de ses axes de recherches, semblent témoigner de l’abandon définitif de l’hypothèse computationnelle de l’esprit (section 3). Nous tenterons d’argumenter, dans une dernière section, qu’elle reste néanmoins centrale comme norme explicative de ce projet scientifique. Nous étudierons en particulier les thèses d’un des représentants du « nouveau mécanisme », Gualtiero Piccinini (section 4).
6Le caractère désuet de la première IA peut d’abord être rapporté à celui d’une époque toute entière marquée par la guerre froide, et caractérisée par une forme d’hyper-rationalisme. Dans leur ouvrage collectif, Erickson, Klein et al. ont mis en évidence la fascination que le Pentagone et le gouvernement américain avaient pour la notion de prise de décision rationnelle, une conception si particulière à cette époque que ces auteurs proposent de la nommer « rationalité de la guerre froide » [cold-war rationality] [Erickson, Klein et al. 2013].
7Cette nouvelle conception de la raison est articulée et promue par un groupe d’intellectuels, comme Thomas Schelling ou Albert Wohlstetter. Elle visait à instaurer un nouvel ordre international, économique et social fondé sur le primat de la prise de décision rationnelle sur les manières traditionnelles de faire de la politique, soumises aux aléas des ambitions humaines, des raisonnements approximatifs, des erreurs de jugement – d’autant plus critique qu’il fallait éviter à tout prix un désastre nucléaire et protéger l’équilibre de la terreur de toute erreur humaine [Erickson, Klein et al. 2013, 87].
8Les promesses que faisaient d’une part la science cognitive, de comprendre les règles du comportement humain, et d’autre part l’intelligence artificielle, de doter les machines d’une certaine autonomie qui leur permette de réagir à bon escient dans les cas extrêmes, semblaient justifier qu’on finance la recherche fondamentale dans l’exploration de la rationalité [Erickson, Klein et al. 2013, 184]. L’état d’esprit sous-jacent à cette forme de rationalité est capturé, avec une ironie mordante, par le film Dr. Strangelove (titre français : Dr. Folamour) de Kubrick, qui s’inspira du roman à succès Red Alert, de Peter George, et qui consulta également Thomas Schelling dans ses travaux préparatoires.
9Sans doute notre expérience concrète des ordinateurs, qui se sont largement démocratisés depuis, et les succès mêmes de l’intelligence artificielle, nous ont permis de mieux appréhender ce que n’est pas l’intelligence humaine, c’est-à-dire le déroulement systématique de procédures, aussi sophistiquées soient-elles. Les « plantages » des ordinateurs nous apprennent que selon le contexte, un programme peut se montrer aussi « bête » qu’« intelligent ». Par ailleurs, nous savons qu’un programme peut être champion du monde d’échecs ou de go sans rien montrer de ce que nous appelons une « lueur d’intelligence ».
10Ce qui est donc devenu désuet, en quelque sorte, c’est la conception même de l’intelligence qui avait cours à cette époque. On pensait qu’elle était à l’œuvre de manière exemplaire dans les problèmes « durs » présentés par les mathématiques, la cryptologie, les jeux de stratégies, et les puzzles comme les « tours de Hanoï ». Comme le dit Brooks, l’intelligence était « mieux caractérisée par les choses que les scientifiques mâles hautement éduqués trouvaient difficiles. [...] Les choses que les enfants de quatre ou cinq ans faisaient sans effort, comme distinguer visuellement une tasse à café d’une chaise, ou se déplacer sur deux jambes, ou trouver son chemin de la chambre au séjour n’étaient pas considérées comme des activités requérant l’intelligence » [Brooks 2003, 36].
11Selon cette conception de l’intelligence, le premier programme d’IA fut un coup de maître : Logic Theorist, par Newell, Simon & Shaw, présenté au séminaire fondateur de Dartmouth en 1956, réussit à reproduire les démonstrations des Principia Mathematica de Russell et Whitehead. Ce tour de force permettait d’espérer des progrès rapides de l’IA et justifiait les prédictions fracassantes que les chercheurs livrèrent à la presse : si on avait si rapidement inculqué à un ordinateur les principes de la logique et les lois des mathématiques, ne devait-on pas s’attendre à ce que toutes les autres manifestations de l’intelligence, à la fois plus simples et en quelque sorte dérivées de ces premiers principes de la connaissance, puissent être rapidement enseignées aux ordinateurs ? Il fallut vite déchanter : si les ordinateurs excellaient dans les problèmes abstraits et bien délimités, il y avait beaucoup plus de difficulté à leur faire appréhender le monde dans sa richesse et sa complexité.
12Le présupposé de la GOFAI est donc que des règles formelles semblables à celles qui commandent nos raisonnements de haut niveau sont également à l’œuvre dans l’ensemble de nos comportements intelligents. Comme l’exprime Haugeland :
13Les assertions fondamentales de toutes les théories GOFAI sont :
- Notre capacité d’interagir intelligemment avec les choses est due à notre capacité de penser à elles rationnellement (incluant la pensée subconsciente) ;
- Notre capacité de penser aux choses rationnellement revient à une faculté de manipulation interne et « automatique » de symboles. [Haugeland 1985, 113]
14Prises séparément, ces deux thèses semblent, sinon aller de soi, du moins avoir une légitimité certaine. La première peut se réclamer d’une philosophie rationaliste de l’action remontant à Aristote [de Motu, chapitre 7, 701a5] [Aristote 2013] et la seconde de la théorie formelle de la preuve initiée par Hilbert : raisonner, c’est-à-dire enchaîner logiquement des propositions, peut être décrit par des règles de réécriture de suites de symboles.
15Cependant, prises ensemble, ces thèses ont des implications épistémologiques nouvelles et extraordinaires, non seulement pour la conception qu’on peut se faire de la psychologie, mais pour celle de la science en général. En effet, si tout comportement intelligent est la résultante d’une procédure symbolique, alors étudier ce comportement revient à trouver cette procédure. Il ne s’agit donc pas d’étudier l’intelligence de l’extérieur, comme un phénomène empirique, par la mesure (comme le QI de Galton), par l’observation de l’activité neuronale (la neuro-science) ou par ses manifestations corporelles (le béhaviorisme), mais de décrire les enchaînements de règles qu’elle suit. Décrire la cognition et le comportement intelligent revient à décrire les procédures et les algorithmes qui les constituent.
16Or cette proposition a plusieurs conséquences épistémologiques.
17La première, c’est que cette science, qui est déclarée empirique, a cependant des objets dont la teneur est mathématique. Les algorithmes et les procédures formelles qui décrivent le fonctionnement de l’esprit sont dans une relation d’indifférence à leurs sous-jacents neurologiques et biologiques. Ceux-ci les « réalisent », mais ils pourraient aussi bien l’être par d’autres véhicules physiques – et notamment les circuits électroniques de l’ordinateur moderne. Ainsi Herbert Simon écrit :
L’ordinateur fait partie d’une importante famille d’artefacts appelés [...] systèmes physiques de symboles. Un autre membre important de la famille (certains pensent, de manière anthropomorphique, que c’est le plus important) est l’esprit et le cerveau humain.
[...] [Nos travaux] reposent fermement sur l’hypothèse que l’intelligence est l’opération de systèmes de symboles. [Simon 1996a, 9, ma traduction]
18On peut noter que l’hypothèse ne porte pas sur l’intelligence humaine, comme classe de phénomènes cibles à expliquer, mais sur l’intelligence en général, un objet abstrait dont nous observons deux réalisations, l’une dans l’ordinateur et l’autre dans le cerveau humain. En insistant sur le fait que la science cognitive ainsi comprise reste une science expérimentale, les cognitivistes proposent d’étendre le champ du réel susceptible d’étude scientifique à des « phénomènes » essentiellement formels.
19La seconde conséquence, c’est que la théorie cognitive sera le mieux exprimée sous la forme de programmes informatiques. Herbert Simon le dit explicitement : « aujourd’hui, c’est un fait que nombre de théories en psychologie sont écrites comme des programmes d’ordinateur » [Simon 1978, 14]. La théorie n’est donc pas seulement une description d’un ensemble de phénomènes du réel, mais une reproduction du phénomène lui-même : « La théorie réalise [performs] la tâche qu’elle explique. C’est-à-dire, une bonne théorie de traitement de l’information concernant un bon joueur d’échecs humains peut bien jouer aux échecs ; une bonne théorie de comment les humains écrivent des romans écrira des romans » [Simon & Newell 1972, 10–11].
- 3 Cette particularité épistémologique a été relevée par les critiques de l’IA comme [Searl (...)
20L’idée surprenante qu’une théorie scientifique peut prendre la forme d’un programme informatique a donc un sous-jacent bien plus hétérodoxe encore. Il ne s’agit pas seulement de la forme que prend la modélisation d’un phénomène empirique, car on ne parle plus ici de modèle, mais du « phénomène » lui-même, le raisonnement formel que reproduit le programme. En d’autres termes, Simon ne se situe pas dans le cadre épistémologique classique de la « modélisation hypothétique » – où la science progresse par l’exhibition de modèles mécaniques dont le comportement est isomorphe avec les phénomènes à expliquer. Ici le comportement du modèle produit une nouvelle instance du phénomène, comme si un météorologue modélisant un orage recréait un nouvel orage3.
- 4 Sur la notion de bibliothèques d’heuristiques, voir [Simon 1986, 729].
21La troisième conséquence, c’est que la recherche en science cognitive et en IA a pour objet central les heuristiques, c’est-à-dire ces méthodes générales ou stratégies de réflexion par lesquelles on trouve une procédure de résolution de problème. La notion moderne d’heuristique est introduite en 1945 par un mathématicien préoccupé de pédagogie, George Pólya, qui étudie dans un petit ouvrage didactique les méthodes les plus couramment utilisées par les mathématiciens pour résoudre des problèmes et qui connaît un grand succès dans le cercle des cognitivistes. Si l’intelligence consiste à pouvoir résoudre des problèmes, alors comprendre l’intelligence revient à répertorier et organiser les heuristiques à sa disposition. Il est entendu qu’elles ne garantissent pas de trouver une solution. Mais l’idée des chercheurs en IA est qu’une machine dotée d’une bibliothèque d’heuristiques devrait être capable de résoudre des problèmes aussi bien que des humains, voire mieux qu’eux étant donné son caractère cumulatif et systématique4.
- 5 Sur la rationalité baroque, voir l’étude de [Knecht 1981].
22On voit d’emblée qu’un tel projet dépasse le cadre de la psychologie et a le potentiel de reconfigurer l’activité scientifique elle-même. Car l’heuristique, si elle est bien l’étude des méthodes de la raison, peut se prévaloir en effet d’une position semblable à celle de la logique comme outil préliminaire à l’étude des sciences. Simon, qui commença par décrire l’heuristique comme la logique de l’activité pratique de l’homme, à l’œuvre notamment dans les professions telles que l’ingénierie, la médecine, le droit, etc., en vint à penser qu’elle était également à l’œuvre dans la recherche scientifique, et que l’intelligence artificielle pourrait un jour investir le domaine des sciences. En cela, l’idée moderne d’heuristique rejoint son concept original, tel qu’il fut élaboré par Joachim Jungius au xviie siècle et repris par Leibniz [Schepers 1971]. Jungius la décrit comme une logique de la découverte qui guide la science, contrairement à la logique traditionnelle qui ne fait que l’expliciter, et Leibniz l’associe au projet d’une caractéristique universelle, c’est-à-dire d’une langue qui serait calquée sur les notions primitives des choses ; elle participe donc de ce courant spéculatif baroque, inspiré par les pensées hermétistes, qui avait encore l’espoir de fonder en raison un savoir systématique de l’univers par la découverte d’une « clé », comme une langue parfaite ou une table lullienne de concepts primitifs5.
23Ici, il ne s’agit bien sûr plus de symbolisme ou de théosophie. Cependant, l’idée moderne d’une intelligence artificielle, qui serait ainsi rendue possible par l’heuristique cognitiviste, vient d’un passage à la limite similaire à celui que réalisèrent Jungius et Leibniz : à savoir que, s’il existe une bibliothèque cumulative des méthodes, celle-ci nous conduira à une méthode primitive, qui nous permettra de décider quelle méthode employer pour chaque type de problème, et dont la possession nous donnera par conséquent la clé de toute connaissance possible.
24Ce point est bien entendu en profonde résonance avec l’atmosphère ultra-rationaliste que nous avons décrite plus haut, qui a pu rendre crédible cette idée. Aussi notre thèse est-elle la suivante : ce qui va devenir désuet dans l’IA n’est pas seulement un programme technologique ou une hypothèse scientifique, mais un projet spéculatif, qui est une résurgence de la rationalité baroque, et qui se caractérise par trois idées :
- Il est possible de fonder une heuristique systématique pour résoudre les problèmes et inventer – comme en son temps la caractéristique leibnizienne.
- Cette possibilité est fondée sur le fait que les programmes informatiques ne modélisent pas seulement des raisonnements, mais sont des raisonnements, qui peuvent donc pour la première fois être pris comme objets d’étude de manière systématique et cumulative.
- Ce point se fonde à son tour sur le fait que l’intelligence n’est pas conçue comme le comportement d’objets empiriques (les hommes) mais comme un « phénomène formel » que le cerveau humain instancie, mais qui en est en droit indépendant.
25C’est en référence à la rationalité baroque que nous proposons de qualifier ce projet spéculatif d’« alchimique », en ce qu’il vise de fonder une heuristique systématique qui donnerait, sinon la clé de l’univers, du moins celle de l’esprit humain.
26Ainsi l’échec de ce projet est profondément lié, selon nous, à son ambition même. Les processus historiques par lesquels il est tombé en désuétude sont à cet égard éclairants. Aux causes « objectives » – échec technologique, retrait des financements – s’ajoute en effet une critique philosophique vigoureuse qui joua un rôle historique certain dans la prise de conscience du caractère « spéculatif » du projet.
27Comme nous l’avons dit en introduction, on peut situer l’âge d’or de la première intelligence artificielle entre 1956 et 1972 : à cette époque des progrès rapides sont réalisés, les financements sont abondants, le programme attire de brillants doctorants au MIT, à Stanford, et à Carnegie Mellon, les trois centres de l’IA aux États-Unis, et à Edinburgh au Royaume-Uni. Il y a des premiers signes d’un reflux dès la fin des années 1960, mais celui-ci se déroule principalement durant les années 1970 et se prolonge jusqu’à la fin des années 1980, jusqu’à l’échec du dernier grand programme de « GOFAI », intitulé « Naïve Physics ». L’étude bibliométrique de [Cardon, Cointet et al. 2018, 181] montre bien la domination, entre 1960 et 1990, de l’IA computationnelle sur le paradigme connexioniste.
28La première cause du reflux de la GOFAI est d’abord scientifique. On peut évoquer d’abord, de manière symbolique mais significative pour l’opinion publique, l’incapacité des programmes de jeux d’échecs à dépasser le niveau de bons amateurs qu’ils avaient atteint à la fin des années 1960. Il faudra attendre 1997 pour que le champion du monde, Gary Kasparov, s’incline devant un ordinateur. Il y a ensuite la déception quant aux projets ayant trait au langage, comme la traduction automatique et la reconnaissance vocale, dont les applications concrètes étaient potentiellement nombreuses. Enfin et surtout, il apparaît beaucoup plus difficile que prévu aux ordinateurs d’interagir avec le monde ambiant. Le déplacement dans l’espace, la reconnaissance d’obstacles (sans même parler de la reconnaissance d’objets), la compréhension de scènes de la vie quotidienne se révèlent être d’une complexité qui dépasse les compétences des algorithmes connus.
29Ces échecs scientifiques ont, de manière prévisible, entraîné un reflux des financements. Nous renvoyons sur ce sujet à [Crevier1993], [Boden 2006]. Ces auteurs mettent en évidence que des facteurs autres que scientifiques ont ici également joué. Le relâchement des tensions de la guerre froide entraîne avec lui une réévaluation des politiques de recherche. Le gouvernement américain commence également à prêter l’oreille aux critiques internes du projet de l’IA par la communauté académique. En 1965, la RAND, l’agence de recherche militaire, qui est l’une des premières sources de financement de l’IA, commissionne un rapport d’évaluation à Hubert Dreyfus, un philosophe dont la critique va susciter un débat public.
30Il est reconnu que ce débat a joué un rôle historique dans le déclin de la GOFAI [Boden 2006, 846], au moins en ce qu’il a donné une voix, un argumentaire et une légitimité académique au camp grandissant des sceptiques de l’IA. Ainsi une des attitudes de défense des chercheurs, choisie notamment par Simon et Newell, fut tout simplement d’ignorer Dreyfus dans l’objectif avoué d’éteindre le débat. Dreyfus attaqua l’hypothèse computationnelle en son cœur, c’est-à-dire, comme nous l’avons vu, l’idée que l’intelligence était définie comme un système formel « instancié » dans le monde, comme l’idée platonicienne de lit serait instanciée dans le lit concret. Dreyfus mobilisa les idées existentialistes de « situation » pour montrer que l’intelligence ne pouvait raisonner qu’à partir d’un contexte et d’un corps propre. D’une certaine manière, la célèbre chambre chinoise de Searle réitère cet argument [Searle 1980]. La critique philosophique de la GOFAI comprend également le débat concernant « l’argument de Gödel » initié par Lucas en 1961 et, dans un autre registre, la critique issue des design studies, avec notamment [Schön 2008]. Notre thèse, que nous ne pouvons développer ici, est, qu’au-delà de leur rôle historique dans le processus de désuétude de la GOFAI, ces critiques ont ensemble mis en évidence le caractère spéculatif, ou « alchimique », comme nous l’avons dit, de ce projet.
31La première IA ne serait-elle donc qu’un effet de mode, celle d’un hyper-rationalisme exprimant les fantasmes et les angoisses de la société lors de la guerre froide ? Telle semble être la position de Lorraine Daston et de ses co-auteurs dans leur ouvrage cité plus haut [Erickson, Klein et al. 2013].
32Cela semble confirmé par les développements foisonnants et rapides que la science cognitive a connus depuis 1985. Les perspectives et les questions se sont multipliées, toujours dans le sens d’une prise de conscience grandissante de la complexité de l’objet étudié, l’esprit humain.
33Méthodologiquement, de nouveaux paradigmes explicatifs ont émergé : le connexionisme, déjà cité, le dynamicisme [Thelen & Smith 1994] et le nouveau mécanisme, sur lequel nous revenons plus loin. Ces trois évolutions, si elles se caractérisent par des méthodes computationnelles intensives, mobilisent cependant le calcul uniquement pour simuler le fonctionnement de l’esprit, et non comme sa description essentielle, comme c’était le cas dans la première science cognitive. Ainsi, un « divorce à l’amiable » se produit avec l’intelligence artificielle, qui n’est plus fondamentale au projet de la science cognitive, et qui de son côté, se tournant vers les méthodes statistiques du « machine learning », ne prend plus pour inspiration le fonctionnement de l’esprit humain.
34Philosophiquement, les critiques de Dreyfus et de Searle ont été développées par un programme de recherches qu’on peut ranger sous l’appellation globale de « cognition étendue », même s’il existe de nombreuses variantes (cognition située, incarnée, énactive...). Si on remet en cause, en effet, l’indifférence des processus cognitifs à leur réalisation matérielle et la possibilité d’étudier les processus cognitifs isolément de leur contexte, alors une troisième hypothèse, qui semblait évidente aux computationnalistes, devient également problématique : que les processus cognitifs humains sont réalisés dans les bornes de la matière cérébrale.
- 6 Pour un état des lieux, voir [Laird, Lebiere et al. 2017].
- 7 Voir par exemple [Garnelo & Shanahan 2019], [Marcus 2018, 20].
35Depuis quelques années cependant, l’approche computationnelle effectue un retour discret dans les recherches en IA aussi bien qu’en sciences cognitives, dans un contexte dépassionné. Les grands systèmes experts intégrés, comme SOAR et ACT-R* inspirés de Newell dans les années 1980, sont toujours opérationnels et actifs dans la recherche6. L’induction de règles est une méthode d’apprentissage machine adaptée à de nombreux problèmes de la vie réelle [Domingos 2015, 68–85]. Les méthodes de l’IA s’hybrident d’ailleurs de plus en plus, et il existe des recherches visant à faire bénéficier les réseaux de neurones des avantages de l’IA symbolique7. Comme l’expliquent les éditeurs du Routledge Handbook of the Computational Mind dans leur introduction, l’époque actuelle est marquée par le pluralisme et l’esprit de synthèse, qui acceptent que différentes méthodes puissent être pertinentes pour des classes différentes de processus cognitifs [Sprevak & Colombo 2018, 3]. De ce fait, « dans cet ouvrage, les débats métaphysiques sont souvent relégués à l’arrière-plan vis-à-vis du rôle explicatif des modèles computationnels en science cognitive » [Sprevak & Colombo 2018, 4]. En d’autres termes, les philosophes actuels s’intéressent à l’épistémologie des sciences cognitives, à ce que signifient les explications des psychologues concernant le fonctionnement de l’esprit humain, plutôt qu’à la question du dualisme du corps et de l’esprit.
36Ce n’est cependant pas cette survivance, toute technique, que nous souhaitons explorer ici. Nous nous intéressons à l’hypothèse computationnelle comme projet spéculatif. Nous voudrions avancer dans cette dernière section l’idée que ce projet reste toujours une tentation active de la science cognitive, car il en reste l’inspiration initiale et, donc, comme son « idéal régulateur » au sens kantien.
- 8 Nous soulignons cette dernière inférence car elle ne va nullement de soi, mais (...)
37Comme nous l’avons vu en section 2, le postulat central de l’hypothèse computationnelle est que l’esprit humain est un système formel, ce qu’on exprime par la thèse « penser, c’est calculer ». On ne se contente pas d’une analyse purement externaliste du comportement humain, comme la pratiquent les béhavioristes. Identifier les régularités ou même les causes physiologiques du comportement ne suffit pas, car on souhaite identifier les raisons que l’esprit se représente quand il agit. Mais il ne s’agit pas cependant de revenir à l’analyse intentionnelle du vécu de l’expérience consciente, à la manière des phénoménologues : les raisons du comportement ont un contenu objectif qui est descriptible par la logique, et donc par la logique formelle8. C’est donc bien sur une position très spécifique concernant le dualisme corps-esprit que s’est fondée initialement la science cognitive. Entre l’agnosticisme à tendance matérialiste des béhavioristes et l’idéalisme transcendantal des phénoménologues, l’hypothèse computationnelle tente de tracer un chemin médian : les processus mentaux sont certainement quelque chose de matériel, mais cette matière est indifférente à ce qu’ils sont : sa description (les processus neuronaux par exemple) n’ajoute rien à leur explication. Elle est donc interchangeable et remplaçable par une matière électronique.
38Nous avons vu également, à la section 3, qu’une partie de la science cognitive contemporaine tournait résolument le dos à ce positionnement : la cognition étendue ou encore incarnée insiste sur la dimension corporelle de la cognition, et donc sur sa non-indifférence : l’appréhension qu’a un animal de son monde environnant est dépendante des caractéristiques de son corps. Cette position évoque Merleau-Ponty, et ainsi une partie importante de la cognition incarnée est tournée vers la phénoménologie [Varela, Thompson et al. 2016].
39Cependant, d’autres perspectives nous semblent rester dans l’axe principal tracé originellement par l’hypothèse computationnelle de l’esprit, et en particulier le nouveau mécanisme que nous proposons d’étudier ici.
40Le nouveau mécanisme est une théorie normative de l’explication scientifique dans les sciences de la vie, apparue au début des années 2000. Elle soutient que dans ces domaines, l’explication prend la forme de la description de « mécanismes », ceux-ci étant définis par Machamer, Darden et al. comme « des entités et des activités organisées de telle sorte qu’elle soient productives de changements réguliers du début (ou conditions initiales) à la fin (ou conditions terminales) » [Machamer, Darden et al. 2000, 3]. Le regain d’intérêt qu’ont les mécanistes pour les explications computationnelles s’explique parce que les mécanismes ainsi définis présentent de nombreux points communs avec les processus informatiques :
- Ils sont caractérisés par des états (appelés aussi parfois propriétés) qui évoluent de conditions initiales à des conditions finales, comme le sont aussi les machines de Turing et les programmes procéduraux en général.
- Les propriétés causales des mécanismes sont dues à l’organisation des interactions entre leurs parties et leurs activités comme le sont les programmes complexes (comparer la définition des mécanismes ci-dessus, et la caractérisation de l’ordinateur par [Simon 1996b, 17] : « Les seules propriétés détectables dans le comportement d’un ordinateur sont ses propriétés organisationnelles »).
- Les parties et les activités de mécanismes s’analysent elles-mêmes en sous-mécanismes jusqu’à arriver à des constituants élémentaires (par exemple chimiques, pour les sciences de la vie), comme un programme s’analyse en sous-programmes jusqu’à arriver aux opérations élémentaires de ses composants électroniques ; les explications mécanistes sont, comme les programmes informatiques, organisées en hiérarchies descriptives emboîtées causalement9.
41La science cognitive retrouve donc, dans le nouveau mécanisme, sa perspective fondamentale, qui est d’analyser les phénomènes mentaux en parties et en activités agencées selon des principes structurels. Les mécanismes ne peuvent néanmoins pas être assimilés à des programmes informatiques pour la raison principale suivante, qu’ils ne sont pas indépendants des propriétés de leurs véhicules matériels ultimes, et que leurs parties ne peuvent donc être assimilées à des symboles. Les mécanistes ne sont donc pas formalistes. Ils demandent de confirmer des explications structurelles par des descriptions neurologiques qui les localisent physiquement. Par exemple, les distinctions faites par les psychologues concernant la mémoire – sémantique, épisodique, procédurale, perceptuelle, etc. – ne sont que des hypothèses quant au fonctionnement réel des phénomènes de remémoration ; avancer qu’elles reflètent des systèmes organisationnels distincts doit être vérifié par l’expérience et la description de leur fonctionnement précis. On s’aperçoit alors que ces différentes mémoires opèrent selon les mêmes processus fondamentaux identifiables au niveau neuronal, et que la recherche doit plutôt porter sur les modulations apportées à ces processus par des contextes et des objectifs différents, plutôt que sur la localisation de systèmes distincts [Bechtel 2008, chap. 2].
42Quelle est cependant la portée de cette insistance sur la non-indifférence des processus mentaux à leur réalisation matérielle ? A-t-elle le même sens et la même radicalité que pour les partisans de la cognition incarnée ? Nous aimerions montrer qu’il n’en est rien, et que le nouveau mécanisme est animé par une « tentation computationnelle », qui s’exprime chez Gualtiero Piccinini.
43On doit d’abord remarquer que la position des nouveaux mécanistes sur ce sujet procède d’abord d’un souci méthodologique plus que d’une thèse portant sur l’influence ou le rôle du substrat matériel de la connaissance. Il s’agit d’adopter une posture résolument empirique et d’observer tout ce qui est observable – comportements et processus physiologiques – afin de construire et tester les hypothèses cognitives. Il s’agit également d’affirmer que, comme pour tout phénomène empirique, l’observation est toujours inachevée, et tout modèle réfutable en droit : un cas de figure inconnu, une nouvelle réaction chimique, de nouvelles conditions d’environnement, pourraient révéler des comportements inattendus des processus cognitifs, qui obligeraient à reconceptualiser leur mécanisme : fondamentalement, nous n’en donnons jamais que des esquisses, et ne faisons jamais que progresser à travers elles.
44Une fois ces deux points accordés, les contenus positifs de la science cognitive, telle que les nouveaux mécanistes la conçoivent, c’est-à-dire ces esquisses de mécanismes, prennent la forme de descriptions d’interactions réglées entre modules et sous-modules cognitifs bien délimités. Ce qui est donc visé ressemble fondamentalement aux formes explicatives de la première science cognitive – par exemple celles de la Society of Mind de [Minsky 1988] – sans la naïveté de ses modèles et avec tout le poids de l’induction empirique.
45Il nous semble ainsi remarquable et significatif que Gualtiero Piccinini, une figure importante du nouveau mécanisme, prône une forme de retour à l’hypothèse computationnelle en avançant la thèse que l’esprit calcule bel et bien, après tout.
46Cette thèse, développée dans une série d’articles publiés entre 2007 et 2015, n’est rien moins que naïve. Elle repose 1) sur une proposition de refonder radicalement le concept de calcul comme n’étant rien d’autre qu’une espèce de mécanisme, et 2) sur l’assertion que les mécanismes neuronaux sont des calculs en ce sens rénové.
47Selon Piccinini, on doit reconnaître un calcul dans tout comportement d’un système dont on pourrait, d’une part, décrire les changements d’état par les seules variations de certains degrés de liberté de ses composants (position, angle, intensité électrique, etc.) et d’autre part, reconnaître les règles de ces changements d’état, c’est-à-dire, dans leur expression la plus simple, une table de correspondance entre états initiaux et états finaux du système. Un calcul est bien un mécanisme, mais ce mécanisme a la particularité qu’on peut en faire une description qui passe sous silence ses composantes matérielles, car celle-ci se focalise uniquement sur les changements des quantités représentant ses degrés de liberté. Piccinini parvient à isoler par cette définition la propriété désirée de la computation, son indépendance au substrat matériel [medium independence] [Piccinini 2007, 31].
48Le calcul, ainsi défini, est bien plus large que les calculs numériques opérant sur des symboles discrets. Il inclut le calcul analogique et, selon Piccinini, une quantité d’autres modèles possibles. Cette définition généreuse lui permet d’entreprendre de montrer la seconde thèse, que les mécanismes neuronaux sont des calculs. Ces calculs ont un modèle qui leur est propre – ils ne peuvent être représentés numériquement ou analogiquement, mais le cœur de son analyse – que nous ne pouvons résumer ici – consiste à identifier les degrés de liberté pertinents des mécanismes neuronaux (les fréquences et l’amplitude des impulsions neuronales) et à en montrer la régularité.
- 10 Voir également l’analyse de [Bechtel 2008, 27].
49Il s’agit en effet du point principal de l’entreprise de Piccinini : montrer qu’il existe, au niveau très élémentaire du substrat cérébral, la possibilité de la description « bi-face » du calcul, système formel et matériel à la fois. Ce faisant, est également légitimée la description en termes computationnels de tous les processus mentaux, à tous les niveaux auxquels opèrent les psychologues cognitivistes, car la composition de mécanismes computationnels entre eux produit évidemment un mécanisme qui est lui-même computationnel10. La démarche de Piccinini, en somme, consiste à insister sur la proximité conceptuelle qu’ont les notions de calcul et de mécanisme, en allant jusqu’à subsumer la première à la seconde. Quant aux trois différences que nous avons relevées entre elles, la troisième (la possibilité de variations non discrètes des propriétés du mécanisme) est gommée par sa définition généreuse du calcul et la première (la non-indifférence au substrat matériel) par l’introduction astucieuse de la notion de degrés de liberté. Quant à la seconde, concernant l’impossibilité d’exhiber de droit un vocabulaire des mécanismes mentaux élémentaires, elle est conservée, car elle n’attaque rien d’essentiel, selon Piccinini. La notion de computation neuronale est d’abord théorique ; elle n’a pas vocation à guider la recherche empirique des neuro-sciences cognitives, qui opère à un niveau bien plus agrégé. Mais elle permet de donner consistance à cet idéal régulateur d’un « mécanisme complet et correct » que serait la computation neuronale.
50Il nous semble y avoir une consonance ici entre le projet de refondation du computationnalisme par Piccinini et certains projets d’IA forte, c’est-à-dire visant à répliquer les compétences générales de l’esprit humain, dans l’esprit de la première GOFAI. Il faut noter que Piccinini lui-même ne s’est pas exprimé, à notre connaissance, sur l’IA forte, et tout indique qu’il serait sceptique quant aux projets que nous allons examiner [voir par exemple Piccinini 2010]. La consonance que nous allons relever concerne donc la forme même des arguments qu’on trouve de part et d’autre, et non leur détail technique.
51Ainsi Ray Kurzweil, dont l’institut finance de nombreux projets d’IA forte, propose comme stratégie principale la « rétro-ingénierie » du cerveau, c’est-à-dire l’analyse détaillée, au niveau du neurone individuel, de son fonctionnement, de telle sorte qu’il puisse être répliqué par des processeurs informatiques spécialisés. Cette analyse doit être permise par les progrès de l’imagerie médicale, et notamment les nanotechnologies. Kurzweil n’ignore rien des différences entre le cerveau et l’ordinateur : il souligne le caractère mi-analogue, mi-digital des mécanismes neuronaux, la capacité du cerveau à se reconfigurer, sa reconfiguration effective massive au cours du développement de l’enfant, etc. Mais son hypothèse fondamentale reste similaire à celle de Piccinini : il existe un certain niveau de description de ces processus physiques qui en saisit tous les détails signifiants pour le déroulement de processus cognitifs. Kurzweil émet ainsi des hypothèses quant à la quantité de calcul nécessaire pour émuler le fonctionnement d’un cerveau humain, et avance l’ordre de grandeur de 1019 cps (calculs par seconde) [Kurzweil 2005, 116]. La méthode utilisée est significative, au-delà de son exactitude : Kurzweil considère le nombre de neurones (1011), qu’il multiplie par le nombre de connections interneuronales moyen (103), qu’il propose d’observer à une fréquence de 100 réactualisations par seconde, ce qui lui donne 1016 cps. Il multiplie cela par la quantité de calcul nécessaire à la modélisation interne d’un neurone individuel (interactions au niveau des dendrites et des autres parties du neurone), soit 103 cps pour arriver à son estimation globale. Ce que fait ici Kurzweil, c’est raisonner en termes de degrés de liberté d’un système à deux niveaux, l’un inter-neuronal, et l’autre intra-neuronal. On retrouve donc ici le concept théorique élaboré par Piccinini, car du moment qu’un mécanisme est descriptible de manière abstraite en termes de degrés de liberté, rien n’empêche qu’il puisse être réalisé sur d’autres substrats, qui réitèreront essentiellement les mêmes opérations, aux simplifications et aux approximations près.
52Cette connexion conceptuelle ne nous semble pas fortuite. La réactivation de l’hypothèse computationnelle de l’esprit par Piccinini implique celle de la possibilité théorique d’une intelligence artificielle générale, car ces deux idées sont intimement liées : la description abstraite d’une réalité physique peut essentiellement devenir la spécification de sa réplication par d’autres matériaux : c’est ce que la technologie a toujours su tirer de la science. Que cette description ait changé de niveau entre la première GOFAI et les nouveaux mécanistes – des processus de haut niveau de la cognition à celle des mécanismes neuronaux – ne change rien à l’identité fondamentale des deux perspectives.
53Dans cet article, nous avons souhaité interroger la désuétude du projet de l’intelligence artificielle, qui fut fondé conjointement à la science cognitive, partageant avec elle ce qu’on appela plus tard l’hypothèse computationnelle de l’esprit : la pensée intelligente peut être décrite sous la forme de programmes informatiques. Si cette désuétude reflète en partie notre éloignement d’une période très particulière du xxe siècle, celle des années 1950 marquées par les angoisses de la guerre froide, elle est sous-tendue par une désuétude plus profonde encore, celle d’une conception hétérodoxe, voire « alchimique », de la science : l’idée que l’intelligence humaine, prise dans sa manifestation empirique, pourrait être entièrement décrite comme une combinaison de symboles.
54Nous avons avancé l’idée que cette hypothèse restait vivace comme tentation congénitale au projet de la science cognitive. La notion de calcul permet en effet d’affirmer à la fois que les phénomènes mentaux sont matériels, et que leur description est en droit indifférente à cette matière. Le nouveau mécanisme de Piccinini nous a semblé renouer avec cette direction philosophique, lorsqu’il propose de considérer les mécanismes neuronaux comme une forme élargie de calcul, et le calcul lui-même comme une espèce de mécanisme.
55Il nous a semblé également que c’était ce genre d’hypothèses qui pouvait légitimer, au moins théoriquement, les projets actuels d’intelligence artificielle générale de répliquer digitalement les cerveaux humains. Ces projets nous ont semblé procéder de la même veine « alchimique » qui avait inspiré la première IA, et nous avons donc émis l’hypothèse qu’un tel glissement restait une possibilité intrinsèque de la science cognitive, quelles que soient les métamorphoses de l’hypothèse computationnelle : car du moment qu’on affirme la possibilité d’exhiber une description mentale de l’esprit essentiellement indifférente à sa réalisation matérielle, on ouvre aussi celle d’un dispositif technologique qui prenne cette description pour spécification.
Flux RSS
