Pourquoi les gens pensent que les ordinateurs en sont incapables ?
Plan
Haut de pageNotes de la rédaction
Le texte proposé ici est une traduction d’extraits (p. 3-5, p. 6, p. 7, p. 8, p. 10, p. 13, p. 14-15) de l’article de Marvin Lee Minsky (1982), « Why People Think Computers Can’t », AI Magazine, 3/4. DOI : 10.1609/aimag.v3i4.376.
Texte intégral
- 1 Nous avons repris les italiques du texte original (ndt).
1La plupart des gens sont convaincus que les ordinateurs ne peuvent pas penser. C’est-à-dire, vraiment penser1. Tout le monde sait que les ordinateurs savent déjà faire beaucoup de choses que personne ne peut faire sans « penser ». Mais lorsque les ordinateurs font ce genre de choses, la plupart des gens soupçonnent qu’il ne s’agit que de l’illusion d’un comportement réfléchi [thoughtful behavior] et que la machine
- ne sais pas ce qu’elle fait ;
- ne fait que ce que le programmeur lui a dit de faire ;
- n’a pas de sentiments. Et ainsi de suite.
2Les personnes qui ont construit les premiers ordinateurs étaient des ingénieurs intéressés par les calculs numériques complexes : c’est pourquoi ces objets furent appelés ordinateurs . Ainsi, lorsque les ordinateurs sont apparus, leurs concepteurs les considéraient comme de simples machines destinées à effectuer des calculs sans intérêt.
3Cependant, même à cette époque, quelques personnes ont imaginé ce qu’on appelle aujourd’hui l’« intelligence artificielle » – ou « IA » en abrégé – car ils se rendirent compte que les ordinateurs pouvaient manipuler non seulement les nombres, mais également les symboles. Cela signifiait que les ordinateurs étaient capables d’aller au-delà de l’arithmétique, peut-être même d’imiter les processus d’information qui se produisent dans les esprits. Au début des années 1950, Turing lança ainsi un programme d’échecs, Oettinger écrivit un programme d’apprentissage, Kirsch et Selfridge écrivirent des programmes de vision, tous utilisant des machines conçues uniquement pour l’arithmétique.
4Aujourd’hui, entourés de tant de machines automatiques, de robots industriels, et de R2-D2 de Star Wars, la plupart des gens pensent que l’IA est beaucoup plus avancée qu’elle ne l’est en réalité. Pourtant, de nombreux « experts en informatique » croient que les machines ne pourront jamais « vraiment penser ». Je pense que ces spécialistes ont trop l’habitude d’expliquer qu’il n’y a rien dans l’ordinateur à part de petits courants électriques. Cela les conduit à croire qu’il ne peut y avoir de place pour rien d’autre, comme des esprits, ou des « soi ». Et il existe bien d’autres raisons encore qui expliquent pourquoi tant d’experts continuent de soutenir que les machines ne seront jamais créatives, intuitives, ou dotées d’émotions, et ne penseront jamais véritablement, ou ne comprendront jamais quoi que ce soit. Cet article révèle pourquoi ils ont tort.
Les ordinateurs peuvent-ils faire uniquement ce qu’on leur dit ?
5Tout naturellement, nous admirons nos Einstein ou nos Beethoven, et nous nous demandons si un jour les ordinateurs pourraient créer des théories et des symphonies aussi merveilleuses. La plupart des gens considèrent que la « créativité » requiert quelque « don » merveilleux qu’il est tout bonnement impossible d’expliquer. S’il en est ainsi, alors aucun ordinateur ne peut rien créer – puisque, évidemment, tout ce que fait une machine peut être expliqué.
6Pour comprendre ce qui ne va pas dans ce raisonnement, nous ferions mieux de nous détourner de ces œuvres exceptionnelles que notre culture considère comme les meilleures de toutes. Sinon, nous tomberons dans un piège idiot. Car, tant que nous n’avons pas d’abord une idée de la façon dont nous faisons les choses ordinaires – comment les gens ordinaires écrivent des symphonies ordinaires – nous ne pouvons tout simplement pas espérer comprendre comment les grands compositeurs écrivent de grandes symphonies ! Et bien sûr, tant que nous n’aurons pas d’idées à ce sujet, nous n’aurons aucun moyen de deviner à quel point il doit être difficile de composer ces œuvres remarquables – et sans la moindre idée de la manière dont elles sont réalisées, elles sembleront évidemment mystérieuses. (Comme Arthur Clarke l’a dit, toute technologie suffisamment avancée ressemble à de la magie). Dès lors, nous devrions d’abord chercher à mieux comprendre comment les gens et les ordinateurs peuvent faire les choses ordinaires que nous faisons tous. (Par ailleurs, ces sceptiques devraient comprendre que leurs arguments impliquent que les gens ordinaires ne sont pas capable de penser non plus). Demandons-nous alors si nous pouvons fabriquer des ordinateurs capables d’utiliser le bon sens ordinaire ; tant que nous n’aurons pas compris cela, nous ne pourrons guère espérer poser de questions pertinentes au sujet des œuvres de génie.
7D’un point de vue pratique, les ordinateurs font déjà bien plus que ce que leurs programmeurs leur disent de faire. J’admets que les programmes les plus anciens et les plus simples n’étaient guère plus que de simples listes et boucles de commandes comme « Fais ça. Fais ça. Fais ça et ça et ça encore jusqu’à ce que cela arrive ». Il était donc difficile d’imaginer comment de tels programmes pourraient donner naissance à plus que ce que leurs programmeurs avaient imaginé. Mais il y a une grande différence entre « impossible » et « difficile à imaginer ». Le premier concerne ça ; le second toi !
8La plupart des gens écrivent encore des programmes dans des langages comme Basic et Fortran, ce qui vous oblige à écrire dans ce style – appelons-le la programmation « fais le maintenant ». Cela vous contraint à imaginer en détail comment votre programme passera d’un état à un autre, d’un instant à l’autre. Et une fois que vous êtes habitué à penser ainsi, il est difficile d’imaginer comment un programme pourrait faire quelque chose d’inattendu, car il est très difficile de faire en sorte que ce genre de programme fasse quoi que ce soit de vraiment intéressant. Difficile certes, mais pas impossible.
- 2 Bien sûr, je simplifie considérablement cette histoire. Newell A., Simon H. (1972), Human Problem S (...)
9Les chercheurs en IA ont ensuite développé de nouveaux types de programmation. Par exemple, le système « General Problem Solver » de Newell, Shaw et Simon permettant de décrire des processus à l’aide d’énoncés tels que : « Si vous êtes du mauvais côté d’une porte, franchissez-la » ou, plus techniquement, « Si la différence entre ce que vous avez et ce que vous voulez est de type D, essayez de la modifier en utilisant la méthode M2 ». Appelons cela la programmation « fais chaque fois que ». De tels programmes appliquent automatiquement chaque règle dès qu’elle est applicable, évitant ainsi au programmeur d’anticiper le moment où cela pourrait se produire. Avec ce style d’écriture, il est toujours nécessaire d’indiquer ce qui doit se passer dans chaque « état » du processus, mais il n’est pas nécessaire de savoir à l’avance quand chaque état se produira.
- 3 Ibid.
- 4 Minsky M. (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, Prentice-Hall.
10Vous pourriez également réaliser de telles choses avec le premier langage de programmation Comit, développé par Yngve au MIT, et le langage Snobol qui lui a succédé. Aujourd’hui, ce style de programmation est appelé « systèmes de production3 ». La théorie mathématique de ces langages est expliquée dans mon livre4.
11Le programme « General Problem Solver » de Newell et Simon a également marqué une étape importante dans la recherche sur l’intelligence artificielle, car il a montré comment écrire un programme pour trancher un problème que le programmeur ne sait pas résoudre. L’astuce consiste à indiquer au programme quels types de choses sont à ESSAYER ; vous n’avez pas besoin de savoir lequel fonctionnera effectivement. Déjà, plus tôt, en 1956, Newell, Shaw et Simon avaient développé un programme informatique efficace pour trouver des preuves de théorèmes en logique mathématique – des problèmes que les étudiants trouvaient assez difficiles – qui a même trouvé des preuves plutôt nouvelles. (Il a également montré que les ordinateurs pouvaient faire du « raisonnement logique » – mais ce n’était pas si surprenant, et depuis, nous avons même trouvé des moyens encore plus puissants pour faire faire de telles choses aux machines.) Plus tard, je discuterai de la façon dont cela se rapporte au problème de la création de programmes qui peuvent faire du « raisonnement fondé sur le bon sens ».
12Certes, vous pourriez répondre : « Tout le monde sait qu’en essayant suffisamment de choses différentes au hasard, bien sûr, au bout du compte, on peut tout faire. Mais si cela prend un million de milliards de milliards d’années, comme ces singes qui tapent au hasard sur des touches de machine à écrire, ce n’est pas du tout de l’intelligence. C’est juste de l’évolution, ou quelque chose comme ça. »
13C’est tout à fait exact, sauf que le système GPS possède une réelle différence : il ne fait pas les choses au hasard. Pour l’utiliser, il faut aussi ajouter un autre type de connaissance : des « conseils » sur les situations où un énoncé du problème est susceptible d’être meilleur qu’un autre. Ensuite, au lieu d’errer au hasard, le programme peut rechercher les meilleurs états ; il tâtonne un peu, comme quand on grimpe une colline, dans le noir, en remontant toujours la pente. Cela donne l’impression que sa « recherche » n’est pas du tout aléatoire, mais plutôt intentionnelle. Le problème, et c’est très grave, c’est qu’il peut rester coincé sur un petit pic et ne jamais atteindre le véritable sommet de la montagne.
14Depuis lors, de nombreuses recherches en IA ont réfléchi à des solutions plus globales pour résoudre les problèmes, afin de contourner le problème consistant à rester bloqué sur de petits sommets, meilleurs que tous les autres points proches, mais moins bons que des endroits plus difficiles à atteindre sans une descente intermédiaire. Nous avons découvert diverses manières d’y parvenir, en obligeant les programmes à adopter des perspectives plus larges, à anticiper, à reformuler les problèmes, à utiliser des analogies, etc. Personne n’a encore découvert de méthode « totalement générale » permettant de toujours trouver le pic le plus élevé. Certes, c’est dommage, mais cela ne signifie pas qu’il y ait une différence ici entre les hommes et les machines, car les humains, eux aussi, sont presque toujours bloqués sur des sommets locaux de toutes sortes. C’est la vie !
- 5 Ce n’est pas tout à fait exact. Lisp n’intègre pas vraiment ces « fais chaque fois que », mais les (...)
15Aujourd’hui, la plupart des chercheurs en IA utilisent des langages comme Lisp, qui permettent au programmeur d’utiliser la « récursivité générale ». Ces langages sont encore plus expressifs que les langages « fais chaque fois que », car leurs programmeurs n’ont pas à prévoir clairement ni les types d’états susceptibles de se produire, ni quand ils se produiront ; le programme contraint simplement les relations entre les états et les structures. On pourrait les appeler « langages de contraintes5 ».
16Même avec des outils aussi puissants, nous commençons tout juste à créer des programmes capables d’apprendre et de raisonner par analogie. Nous commençons tout juste à concevoir des systèmes capables d’identifier les anciennes expériences en mémoire qui sont les plus proches des problèmes actuels. J’aime à considérer cela comme une programmation du type « fais quelque chose de sensé ». Un tel programme se souviendrait de beaucoup de choses de son passé, de sorte que, pour chaque nouveau problème, il rechercherait des méthodes similaires à celles qui ont le mieux fonctionné par le passé à propos de difficultés similaires. Lorsqu’on parle de programmes dotés d’une telle autonomie, il est absurde de dire que « les ordinateurs ne font que ce qu’on leur dit de faire », car de nos jours le programmeur en sait très peu sur les situations que la machine pourrait rencontrer dans le futur – ou au sujet de ce dont elle se souviendra de son passé.
17Dans une génération, nous devrions faire l’expérience de programmes qui écrivent de meilleurs programmes pour se remplacer eux-mêmes. Alors, enfin, nous comprendrons combien notre première idée était absurde : que jamais, par nature, les machines ne pourraient créer quoi que ce soit. Cet essai tente d’expliquer pourquoi tant de gens se sont trompés à ce sujet.
Les ordinateurs pourraient-ils être créatifs ?
18J’ai l’intention de répondre « non », en montrant que la créativité n’existe pas. Je ne crois pas qu’il y ait de différence essentielle entre la pensée ordinaire et la pensée créative. Alors, pourquoi le croyons-nous ? Je soutiendrai que cela ne concerne pas vraiment ce qui se passe dans l’esprit de l’artiste, mais plutôt dans celui du critique ; moins on comprend l’esprit d’un artiste, plus le travail qu’il accomplit semble créatif.
19Je ne reproche à personne de ne pas être capable de faire ce que font les créatifs. Je ne leur reproche pas non plus de ne pas être capables de l’expliquer. (Je ne leur reproche même pas de penser que si la créativité ne s’explique pas, elle ne se mécanise pas ; je suis d’ailleurs d’accord avec eux.) Mais je leur reproche de penser que, simplement parce qu’ils ne peuvent pas l’expliquer eux-mêmes, personne ne pourrait imaginer comment fonctionne la créativité. Après tout, si vous ne pouvez pas comprendre ou imaginer comment quelque chose pourrait être fait, vous ne pouvez certainement pas vous attendre à pouvoir imaginer comment une machine pourrait le faire !
20Quelle est l’origine de toutes ces croyances sceptiques ? Je soutiendrai d’abord que nous sommes excessivement intimidés par l’admiration pour nos Beethoven et Einstein. Considérons d’abord combien il nous est difficile d’exprimer la manière dont nous avons de nouvelles idées, non seulement celles dites « créatives », mais aussi celles du quotidien. Le problème, c’est qu’en nous focalisant sur la créativité, nous avons tendance à remarquer que d’autres ont des idées que nous n’avons pas. Mais lorsque nous avons nos propres idées, nous les tenons pour acquises et ne nous demandons pas d’où elles « viennent ». En réalité, nous en savons très peu, peut-être même encore moins que ça, sur comment nous pensons les choses ordinaires. Nous sommes tellement habitués aux merveilles de la pensée quotidienne que nous ne nous posons jamais de question, jusqu’à ce que des performances inhabituelles attirent l’attention. (Bien sûr, nos superstitions sur la créativité servent d’autres besoins, par exemple attribuer à nos héros des qualités particulières qui justifient ce que nous, les perdants ordinaires, ne pouvons pas faire.)
21Devons-nous supposer que les esprits exceptionnels diffèrent des esprits ordinaires, et pas seulement en matières de diplômes ? Je défendrais les deux points de vue. Je dirais d’abord : « Non, il n’y a rien de spécial chez un génie, seulement une combinaison rare et improbable de vertus – aucune n’étant exceptionnelle en soi. » Je dirais ensuite : « Oui mais pour acquérir une telle combinaison, il faut au moins un heureux hasard – et peut-être autre chose – pour vous permettre, en premier lieu, d’acquérir ces autres compétences. »
22Je ne vois aucun mystère dans cette combinaison mystérieuse. Il doit exister une préoccupation intense concernant un domaine. Une grande maîtrise dans ce domaine est nécessaire (même si ce n’est pas d’une façon académique). Et il faut avoir suffisamment confiance en soi, une immunité à la pression des pairs, pour briser l’emprise des paradigmes standard. […] Mais rien de tout cela ne semble exiger une différence qualitative fondamentale. À mon avis, toute personne ordinaire capable de comprendre une conversation ordinaire doit déjà posséder en tête la majeure partie de la puissance mentale de nos plus grands penseurs. En d’autres termes, j’affirme que le « bon sens ordinaire » inclut déjà les qualités nécessaires – lorsqu’elles sont mieux équilibrés et plus fortement motivés – pour faire un génie. Alors, qu’est-ce qui rend ces esprits excellents si supérieurs dans leur travail ? Peut-être deux par rapport aux esprits ordinaires. La première réside dans la manière dont ces personnes acquièrent des compétences bien plus nombreuses et plus approfondies.
23La seconde correspond à la façon dont ils apprennent à se débrouiller grâce à ce qu’ils apprennent. Peut-être que sous cette maîtrise plus assurée, les créatifs possèdent aussi des compétences administratives particulières qui leur permettent de mieux articuler leurs compétences apparentes. Un bon compositeur, par exemple, doit maîtriser de nombreuses compétences liées à la phrase et au thème, mais ces compétences sont partagées, dans une certaine mesure, par tous ceux qui s’expriment de manière cohérente. Un artiste doit également maîtriser des formes plus vastes, mais ces compétences sont également partagées par tous ceux qui connaissent de bonnes façons de « raconter une histoire ». Beaucoup de gens apprennent beaucoup de compétences différentes, mais peu arrivent à les combiner suffisamment bien pour atteindre ce rang.
24[…]
25Nous ne savons toujours pas pourquoi ces « maîtres créatifs » apprennent autant et si bien. L’hypothèse la plus simple est qu’ils ont trouvé la meilleure façon de choisir comment et quoi apprendre ! Quel pourrait être le secret ? L’explication la plus simple : un tel « don » n’est qu’une sorte d’expertise « d’ordre supérieur » pour savoir comment acquérir et utiliser ses autres compétences. Que faudrait-il pour apprendre cela ? C’est évident : il faut apprendre pour mieux apprendre !
26[…]
27L’apprentissage consiste à acquérir une masse croissante de compétences ; nous commençons avec certaines, mais devons apprendre le reste. La plupart des gens ne se soucient jamais profondément d’acquérir des compétences d’apprentissage de plus en plus avancées. Pourquoi donc ? Parce qu’elles ne rapportent pas tout de suite ! Lorsqu’un enfant essaie de verser du sable dans un seau, l’enfant s’intéresse principalement à remplir des seaux et autres activités de ce genre. Imaginez, par hasard, qu’un enfant s’intéresse à l’amélioration de cette activité au fil du temps, et à l’influence de ses dispositions mentales intérieures sur cette amélioration. Si un enfant s’impliquait (même inconsciemment) dans la recherche d’un meilleur apprentissage, cela pourrait conduire à une croissance exponentielle de son apprentissage.
- 6 Notez qu’il est impossible pour un parent de remarquer, puis de récompenser, l’intérêt réflexif d’u (...)
28Chaque meilleure façon d’apprendre à apprendre conduirait à de meilleures façons de développer davantage de compétences, jusqu’à ce que cette petite différence se transforme en un changement qualitatif impressionnant. Dans cette optique, la « créativité » de premier ordre pourrait n’être que la conséquence d’accidents de l’enfance lors lesquels l’apprentissage d’une personne devient un peu plus « auto-appliqué » que d’habitude6. Si cette image est correcte, alors nous pourrions voir la créativité se manifester dans les machines, une fois que nous commencerions à nous engager sur la voie de la création de machines qui apprennent et apprennent à mieux apprendre. […]
Les ordinateurs peuvent-ils penser uniquement logiquement ?
- 7 L’haltère – l’accessoire de musculation ou les paires de petits boutons présents dans les ailes de (...)
29Notre culture est accro à l’image d’un esprit divisé en deux parties. Généralement, une moitié de l’esprit est perçue comme calculatrice, logique et plutôt fragile ; l’autre moitié semble plutôt molle et vague. Il existe tellement de variantes de ce système, toutes si mal définies, qu’il est impossible de les distinguer ; appelons-les les « théories de l’haltère molle-dure7 » :
Logique – Intuition
Spatial – Verbal
Quantitatif – Qualitatif
Local – Global
Raison – Émotion
Pensée – Sentiment
Littéral – Métaphorique
30Il n’y a rien de mal à commencer par des théories biparties si nous les utilisons comme étapes vers de meilleures théories. Mais quand on s’arrête à ces théories, on a plutôt une idée au lieu de deux :
Quoi que ce soit ? – Tout le reste
31L’ennui avec les théories monopartie, c’est qu’elles ne mènent à rien, faute d’être suffisamment détaillées. La plupart des distinctions fondées sur ces paires mentales dans notre culture restent ainsi bloquées, ce qui entrave nos efforts pour élaborer des théories de l’esprit. Je suis particulièrement agacé par la mode récente qui voit l’esprit divisé en deux moitiés égales, situées dans les hémisphères gauche et droit du cerveau :
Gauche – Droite
(comme un ordinateur) (comme le reste de l’esprit)
32C’est vraiment génial. Non seulement cela confirme l’idée que l’esprit fait des choses que les ordinateurs ne peuvent pas faire, mais cela fournit même un emplacement physique bien commode dans le cerveau pour y placer les différences !
- 8 Encore un jeu de mots relatif à l’idée reçue des deux hémisphères.
33Chaque moitié du cerveau comporte des dizaines, voire des centaines, de sections différentes. Il existe certes des différences entre la droite et la gauche. Mais ces différences structurelles entre les parties correspondantes des hémisphères droit et gauche semblent bien moindres que les différences au sein de chaque hémisphère. Malgré ce flot d’histoires incomplètes [half-baked brain-half8] sur les hémisphères cérébraux, j’ai entendu peu de preuves de différences systématiques dans le fonctionnement réel de ces parties gauche et droite, malgré tous ces magazines et livres en kiosque, et les théories des neuroscientifiques sur l’esprit aussi naïves que les vôtres et les miennes. Ils sont tout aussi enclins à « observer » les distinctions qu’ils imaginent.
34[…]
35Le côté droit, par exemple, serait plus doué pour les choses réalistes et concrètes – les choses telles qu’elles sont. Le côté gauche se serait spécialisé dans les projets à long terme, dans les choses qui ne sont pas encore là, bref, dans ce que nous aimons qualifier d’« abstrait ».
36Ces distinctions ancestrales entre logique et intuition, ou raison et émotion, ont été à l’origine de nombreux arguments fallacieux sur l’intelligence artificielle. Dès les premiers jours de l’IA, il était clair que la déduction logique serait facile à programmer. Par conséquent, ceux qui imaginaient la pensée comme étant essentiellement de nature logique s’attendaient à ce que les ordinateurs accomplissent bientôt les tâches pour lesquelles les humains utilisaient la logique. Dans cette optique, il devrait être beaucoup plus difficile, voire impossible, de programmer des aspects davantage qualitatifs, comme l’intuition, la métaphore, l’esthétique ou le raisonnement par analogie. Je n’ai jamais apprécié ces arguments.
37En 1964, mon étudiant, T.G. Evans a terminé un programme démontrant que les ordinateurs pouvaient effectivement utiliser des analogies. Il a construit des raisonnements intéressants sur la perception des structures géométriques. Cela a tellement irrité certains sceptiques humanistes qu’ils ont écrit des articles à ce sujet. Certains ont jeté le bébé avec l’eau du bain en semblant affirmer que si les machines pouvaient effectivement faire ce genre de raisonnement analogique, cela signifiait alors peut-être que ce genre de raisonnement ne devait pas être si important. L’un d’eux s’est plaint que le programme d’Evans était trop compliqué pour servir de base à une théorie psychologique intéressante, car il utilisait environ 60 000 mots d’instructions informatiques (ce qui semblait dire qu’il n’y avait pas de bébé au départ).
38Quoi qu’il en soit, le programme d’Evans a assurément montré qu’il était faux de supposer que les ordinateurs ne pouvaient effectuer que des raisonnements logiques ou quantitatifs. Pourquoi tant de gens ont-ils commis cette erreur ? Je trouve cela ironique : ces critiques ont confondu leurs propres limitations personnelles avec celles des ordinateurs ! Ils ont projeté sur le monde extérieur leur propre incapacité à expliquer comment une personne ou une machine pourrait raisonner par analogie, en supposant qu’aucun mécanisme bien défini ne pourrait réaliser une telle chose. En fait, ils disaient que, puisqu’ils ne voyaient aucune explication, alors, sûrement, il ne pouvait y avoir d’explication !
39Une autre fausse idée provient de la confusion entre les différentes significations de la logique. Trop d’informaticiens prétendent que les ordinateurs sont parfaitement logiques, un point c’est tout. En réalité, ce qu’ils veulent dire c’est qu’ils peuvent comprendre, grâce à la logique, le fonctionnement de tous ces minuscules circuits informatiques. Mais ce n’est pas parce que ces petits circuits sont compréhensibles par la logique qu’ils ne peuvent faire que de la logique ! C’est comme croire qu’on peut comprendre à quoi servent les maisons en connaissant les propriétés des briques.
40De nombreux spécialistes de l’IA ont continué à utiliser la logique pour résoudre des problèmes. À mon avis, cela n’a pas été très efficace ; le raisonnement logique est plus adapté à la démonstration ou à la confirmation des résultats de la réflexion qu’à la réflexion elle-même. Autrement dit, je soupçonne que nous l’utilisons moins pour résoudre des problèmes que pour les expliquer à d’autres et, plus important encore, à nous-mêmes. Lorsqu’on travaille sur les détails des problèmes, il est généralement trop difficile de présenter les connaissances nécessaires sous une forme logique appropriée. Quoi qu’il en soit, il nous faut utiliser d’autres méthodes ; des méthodes plus adaptées aux « réseaux de significations » dont je parlerai bientôt. Néanmoins, je considère que de telles idées sont d’une grande importance pour élaborer des théories sur la façon dont nous représentons les choses auxquelles nous pensons, et en particulier sur la façon dont nous pensons lorsque nous raisonnons précautionneusement.
Un ordinateur peut-il vraiment comprendre quoi que ce soit ?
41« Je vois que vous avez programmé cet ordinateur pour qu’il obéisse à des commandes verbales. Vous avez probablement enregistré dans sa mémoire la manière dont il doit répondre à chaque commande. Mais je ne crois pas que le programme comprenne vraiment les mots, au sens humain du terme. »
42Cette critique est justifiée pour la plupart des systèmes informatiques actuels. Mais comment s’applique-t-elle au programme de 1965 écrit par Daniel Bobrow permettant de résoudre des problèmes d’algèbre niveau lycée ? Il aurait à résoudre ceci :
La distance entre New York et Los Angeles est de 4 800 km. Si la vitesse moyenne d’un avion à réaction est de 965 km/h, calculez le temps nécessaire pour voyager de New York à Los Angeles en avion à réaction.
L’oncle du père de Bill a deux fois l’âge du père de Bill. Dans deux ans, le père de Bill aura trois fois l’âge de Bill. La somme de leurs âges est de 92 ans. Calculez l’âge de Bill.
43La plupart des élèves trouvent ce genre de problème assez difficile. Ils trouvent plus facile d’apprendre à résoudre les équations qu’ils rencontrent en algèbre au lycée ; c’est du domaine du livre de recettes. Mais pour résoudre les problèmes verbaux, il faut trouver les équations à résoudre. Cela ne signifie-t-il pas qu’il faut comprendre au moins un peu le sens des mots et des phrases ?
44Eh bien, pour commencer, le programme de Bobrow a utilisé de nombreuses astuces. Il suppose que le mot « est » signifie généralement « égal ». Il n’essaie même pas de déterminer ce que signifie « l’oncle du père de Bill », sauf pour remarquer que cette expression ressemble à « le père de Bill ». Il ignore que « âge » et « vieux » ont un rapport avec le temps, il comprend seulement que ce sont des nombres à insérer dans des équations, ou à extraire. Compte tenu de ces informations et de quelques centaines d’autres sur ces mots, il parvient parfois (mais certainement pas toujours) à trouver les bonnes réponses.
45Mais oserait-on affirmer que le programme de Bobrow « comprend » véritablement ces phrases ? Si le sens n’est pas emprisonné dans des centaines de pièges différents, ne pourrait-on pas tout de même l’emprisonner dans des centaines de milliers de pièges ? Pouvons-nous vraiment confier à la science l’idée qu’est « Comprendre » ?
46Voici comment j’aime aborder ce genre de questions. Je ne me sens pas obligé de définir des mots comme « signifier » et « comprendre », simplement parce que d’autres ont essayé pendant cinq mille ans ! Nos mots ne sont que des objets sociaux ; c’est formidable lorsqu’ils se combinent pour nous donner de bonnes idées. Mais ici, je pense qu’ils ne désignent qu’un embrouillamini de superstitions stériles qui n’ont fait qu’entraver nos prédécesseurs lorsqu’ils ont tenté de comprendre ce que sont les « significations » et la façon dont elles sont liées à nos mots. C’est une entreprise malavisée, comme demander aux gens de s’accorder sur ce qui est « bien », sans tenir compte des espoirs et des craintes de chacun.
47Heureusement, comme je vais le montrer, il n’est pas nécessaire de saisir les « significations » de manière aussi rigide et publique. En fait, cela irait à l’encontre de nos véritables objectifs. En effet, toute théorie psychologiquement réaliste des significations nécessite des moyens intégrés pour gérer les différences individuelles entre les personnes qui doivent « savoir ».
48[…]
49Notre culture essaie de nous enseigner qu’une signification ne devrait avoir qu’un seul et unique sens. Mais si vous programmiez une machine de cette façon, alors bien sûr, elle ne pourrait pas vraiment comprendre. Pas plus qu’une personne, car, lorsqu’une chose n’a qu’un seul sens, elle n’a pas vraiment de « signification », car ces structures mentales sont si fragiles et si faciles à bloquer qu’elles n’ont aucune utilité réelle. Un réseau, en revanche, offre de nombreuses façons de résoudre chaque problème. Et lorsqu’une méthode échoue et qu’une autre fonctionne, vous pouvez essayer de comprendre pourquoi. En d’autres termes, le réseau vous permet de réfléchir, et la réflexion vous permet de construire davantage de réseaux. Car ce n’est que lorsque vous avez plusieurs significations dans un réseau qu’il y a matière à réflexion ; vous pouvez alors retourner les choses dans votre esprit et les considérer sous différents angles. Lorsque vous êtes bloqué, vous pouvez essayer une autre perspective. Mais lorsqu’une chose n’a qu’un seul sens et que vous êtes bloqué, il n’y a pas d’autre solution que de demander à l’Autorité. C’est pourquoi les réseaux sont meilleurs que les définitions logiques. Il n’y a jamais beaucoup de sens jusqu’à ce que vous réunissiez plusieurs significations partielles ; et si vous n’en avez qu’une, vous n’en avez pas.
50[…]
Un ordinateur pourrait-il avoir du bon sens ?
51Nous aimons tous entendre ces blagues sur le comportement stupide et littéral des ordinateurs, sur la façon dont ils nous envoient des chèques de 0,00 $ ou des factures de 0,00 $, etc. Ce manque total de bon sens a sûrement encouragé la plupart d’entre nous à douter que les machines puissent avoir un esprit. Ce n’est pas seulement qu’elles font ce qu’on leur dit, c’est aussi qu’elles sont si stupides qu’il est presque impossible de leur dire comment faire les choses correctement.
52Et, en effet, ces histoires sont tout à fait vraies, dans l’ensemble. Il y a assurément quelque chose d’étrange avec les ordinateurs. Comment, par exemple, peuvent-ils être si performants en mathématiques supérieures et dans d’autres choses du même genre, qui sont si difficiles pour nous, simples mortels, et pourtant paraître si stupides en général ? Difficile de blâmer les gens qui pensent qu’il manque un « élément vital » à un ordinateur !
53À première vue, cela semble s’appliquer même à ces programmes d’IA. N’est-il pas étrange, à bien y réfléchir, que les tout premiers programmes d’IA aient excellé dans les matières « avancées et adultes » ? J’ai mentionné que le programme Newell-Simon, écrit en 1956, excellait dans certains domaines de la logique mathématique. Puis, en 1961, James Slagle a écrit un programme capable de résoudre des problèmes de calcul symbolique de niveau universitaire (il a obtenu un A à un examen du MIT). Vers 1965, le programme de Bobrow a résolu des problèmes d’algèbre de niveau lycée. Et ce n’est que vers 1970 que nous avons eu des programmes robotiques, comme celui de Terry Winograd, capables de manipuler les blocs de construction des enfants suffisamment bien pour les empiler, les démonter, les réorganiser et les ranger dans des boîtes.
- 9 Mais certainement pas toujours.
54Comment avons-nous pu faire faire des choses aussi adultes aux programmes d’IA bien avant de pouvoir leur faire faire des choses enfantines ? La réponse est un paradoxe quelque peu inattendu. Il semble que la pensée adulte « experte » soit souvent9 plus simple qu’un banal jeu d’enfant ! Apparemment, être novice est plus exigeant qu’être expert, car (parfois, en tout cas) les connaissances dont un expert a besoin peuvent être peu nombreuses et simples, aussi difficiles soient-elles à découvrir ou à apprendre. Ainsi, Galilée était certes très intelligent, et pourtant, lorsqu’il comprit la nécessité du calcul infinitésimal, il ne parvint pas à l’inventer. Mais aujourd’hui, n’importe quel étudiant peut l’apprendre.
55Le réseau de connaissances intégré au programme de Slagle ne comportait qu’une centaine de « faits », mais c’était suffisant pour résoudre ces problèmes de niveau universitaire. La plupart concernaient des notions simples d’algèbre et de calcul, mais certaines portaient sur des moyens de déterminer lequel de deux problèmes était probablement le plus facile à résoudre. Ces éléments étaient particulièrement importants, car ils incarnaient la capacité du programme à juger des situations. Sans eux, le programme ne pouvait que s’agiter dans tous les sens ; grâce à eux, il pouvait généralement progresser en prenant de bonnes décisions aux étapes suivantes.
56Aujourd’hui, nous en savons certes beaucoup sur la création de ce type de programme « expert », mais nous en savons encore bien trop peu pour élaborer de bons programmes de résolution de problèmes fondés sur le bon sens. Imaginez le genre de choses que les petits enfants peuvent faire. Le programme de Winograd avait besoin de combiner différents types de connaissances : sur les formes et les couleurs, l’espace et le temps, les mots et la syntaxe, et d’autres, uniquement pour réaliser des choses simples dans ce « monde de blocs de construction pour enfants » ; au total, il lui fallait environ un millier de fragments de connaissances, là où Slagle n’en avait besoin que d’une centaine – bien que l’un se contente de « jouer avec des jouets », tandis que l’autre pouvait résoudre des problèmes de niveau universitaire. À mon avis, les « experts » peuvent souvent se contenter de corpus de connaissances approfondis, mais limités, tandis que le bon sens est presque toujours techniquement beaucoup plus compliqué.
57Ce n’est pas non plus une simple question de quantité et de qualité des connaissances : Winograd avait besoin de plus de types différents de méthodes permettant aux processus de se contrôler et de s’exploiter mutuellement. Il semble que la pensée de bon sens nécessite une plus grande variété de types de connaissances et a besoin de différents types de processus. Et puis, avec la multiplication des types de processus, il y aura davantage d’interactions différentes entre eux, d’où la nécessité d’encore plus de connaissances.
58Pour que nos robots aient un minimum de bon sens, ce qui est la moindre des choses, notre laboratoire a dû développer de nouveaux types de programmation – nous avons appelé ça « hétérarchie », par opposition à la « hiérarchie » des anciens programmes et théories. Moins centralisé, avec plus d’interactions et d’interruptions entre les parties du système, une partie du programme de Winograd pouvait tenter d’analyser une phrase, tandis qu’une autre partie s’efforçait de rectifier la grammaire et le sens. Si un programme devinait que « ramasser » est un verbe, dans « ramasse le bloc », une autre partie du programme pouvait vérifier si « bloc » est vraiment le genre de chose qui peut être ramassée. Le bon sens exige beaucoup de ce genre de passage d’un point de vue à un autre, abordant différents types d’idées à un moment donné.
59Afin d’intégrer davantage de bon sens dans nos programmes, je pense que nous devrons les rendre plus réfléchis. Les systèmes actuels me semblent un peu trop actifs ; ils essayent trop de choses, avec trop peu de « réflexion ». Lorsque quelque chose ne va pas, la plupart des programmes actuels se contentent de revenir aux décisions antérieures et tentent quelque chose d’autre, et c’est une base trop grossière pour construire des machines plus intelligentes. Lorsque quelque chose ne va pas, une personne essaie de comprendre ce qui ne va pas, au lieu de simplement tenter autre chose. Nous recherchons des explications causales et des excuses et – lorsque nous les trouvons – les ajoutons à nos réseaux de croyances et de compréhension : nous faisons de l’apprentissage intelligent. Nous devrons faire en sorte que nos programmes agissent davantage de comme ça.
Les ordinateurs peuvent-ils commettre des erreurs ?
- 10 Davantage de détail sur cette théorie se trouvent dans mon article sur les blagues.
60L’erreur est humaine, etc. Je parie que lorsque nous essaierons de rendre les machines plus sensées, on découvrira que savoir ce qui cause les erreurs est presque aussi important que de savoir ce qui est correct. Autrement dit, pour réussir, il est utile de connaître les plus sûres façons d’échouer. Freud a parlé de censeurs mentaux, qui servent à réprimer ou supprimer certains actes ou pensées interdits ; ces censeurs étaient supposés réguler une grande partie de notre activité sociale. De la même façon, je soupçonne que nous accumulons des censeurs pour les activités ordinaires – et pas seulement pour les tabous et les répressions sociales – et que nous les utilisons pour résoudre des problèmes ordinaires, pour savoir ce qu’il ne faut pas faire. Chaque fois que quelque chose ne va pas, nous en apprenons de nouveaux, en nous souvenant de la façon dont on reconnaît ces circonstances, dans une sorte de « mémoire subconsciente » – afin de ne pas reproduire la même erreur plus tard10.
61Parce qu’un « censeur » ne peut que réprimer un comportement, son activité est invisible en surface — si ce n’est en réduisant les erreurs. C’est peut-être pour cette raison que l’idée d’un inconscient répressif est apparue si tard dans l’histoire de la psychologie. Mais là où Freud ne considérait que les comportements émotionnels et sociaux, je propose de les considérer comme étant tout aussi importants au bon sens. Mais cela serait tout aussi difficile à observer. Et lorsqu’une personne prend une bonne décision intellectuelle, nous avons tendance à nous demander quel raisonnement se cache derrière elle, mais nous ne pensons jamais à nous demander : « Quels milliers d’interdits ont écarté mille mauvaises alternatives ? »
62Cela explique pourquoi nous avons tant de mal à définir le fonctionnement de notre raisonnement fondé sur le bon sens. Nous ne pouvons pas détecter comment nos censeurs agissent pour éviter les erreurs, les absurdités, les bugs et les ressemblances avec d’autres expériences. Selon ma théorie, deux raisons expliquent notre incapacité à cela. Premièrement, je soupçonne que des milliers d’entre eux fonctionnent simultanément, et si on devait en tenir compte, on ne parviendrait jamais à rien faire d’autre. Deuxièmement, ils doivent faire leur travail d’une manière particulièrement amusante, car ils doivent empêcher une mauvaise idée avant que vous ne l’« ayiez en tête ». Sinon, on réfléchirait trop lentement pour arriver à quoi que ce soit.
- 11 Comme les « sceptiques » dans la thèse de Kornfeld.
63Par conséquent, une grande partie de notre réflexion est forcément inconsciente. Nous ne pouvons percevoir – c’est-à-dire disposer de suffisamment d’informations pour en faire des théories – que ce qui se trouve à la surface de notre esprit. Je suis convaincu que la pensée consciente n’est qu’un résultat de « processus contradictoires » complexes qui se déroulent ailleurs dans l’esprit, où des parties de pensées sont toujours mises à l’épreuve, avec des présentations compliquées de la part des plaideurs et de longues délibérations du jury11. Et alors, nos « moi » finissent par n’entendre que les dernières phrases de ces juges inconscients.
64Comment, après tout, pourrait-il en être autrement ? Aucune partie de notre esprit ne pourrait suivre tout ce qui se passe dans le reste de notre esprit, et encore moins ce « moi » – ce petit modèle esquissé de l’esprit à l’intérieur de l’esprit. Nos fameux « moi » n’ont de valeur que dans la mesure où ils simplifient et condensent les choses. Toute tentative de donner à la « conscience de soi » une qualité beaucoup plus complète serait contre-productive ; comme les dirigeants de grandes entreprises, ils ne peuvent pas s’encombrer de détails, mais seulement de résumés concis transmis par d’autres agents qui « en savent toujours plus sur toujours moins ». Examinons cela de plus près.
Un ordinateur pourrait-il être conscient ?
65Lorsque les gens posent cette question, ils semblent toujours vouloir une réponse négative. Je vais donc tenter de vous surprendre en expliquant pourquoi les machines pourraient, en principe, être capables d’une conscience encore plus grande et plus développée que celle des humains.
66Bien sûr, le problème est que nous ne parvenons pas à nous mettre d’accord sur ce que signifie « conscient ». J’ai un jour demandé à un étudiant : « Peut-on être conscient ? »
67« Bien sûr que nous le pouvons, puisque nous le sommes ».
68J’ai alors demandé : « Voulez-vous dire que vous pouvez savoir tout ce qui se passe dans votre esprit ? »
69« Je n’ai certainement pas voulu dire ça. Je voulais dire quelque chose d’autre. »
70« Bien », ai-je continué, « qu’entendiez-vous par “conscient” si vous ne vouliez pas dire savoir ce qui se passe dans votre esprit ? »
71« Je ne voulais pas dire conscient de ce que j’ai dans l’esprit, mais de mon esprit. »
72Perplexe, j’ai dû demander : « Euh, qu’est-ce que vous voulez dire ? »
73« Eh bien, euh, c’est trop difficile à expliquer. »
- 12 L’anglais distingue awareness et consciousness, alors que le français n’a qu’un seul terme – consci (...)
- 13 Nous avons ajouté les guillemets (ndt).
74Et ainsi de suite. Pourquoi pouvons-nous en dire si peu sur notre prétendue conscience ? Apparemment, parce que nous ne sommes pas d’accord sur ce dont il est question. Je vais donc tricher et revenir à la « conscience de soi » [self-awareness12]. J’ai déjà suggéré que, bien qu’elle soit très utile et importante, elle ne fait pas vraiment ce que nous pensons qu’elle fait. Nous supposons que nous avons un moyen de découvrir des vérités sur notre esprit mais, en réalité, je prétends que nous ne pouvons faire que des suppositions sur ces questions. Les disputes que nous voyons entre psychologues montrent trop bien qu’aucun d’entre nous n’a de « fenêtre13 » parfaite sur la vérité mentale.
- 14 Nous choisissons de traduire insight par « perception ». « Intuition » pourrait parfois mieux conve (...)
- 15 Je pense que nous serions assez intelligents pour comprendre les principes généraux de notre pensée (...)
75Si nous sommes si imparfaits dans l’auto-explication, alors je ne vois aucune raison (en principe, du moins) pour laquelle nous ne pourrions pas fabriquer des machines bien plus performantes que nous pour se connaître elles-mêmes. Nous pourrions leur donner de meilleurs moyens d’observer comment leurs mécanismes fonctionnent pour servir leurs objectifs. Le plus difficile, bien sûr, ne serait pas d’acquérir ces informations internes, mais de rendre la machine capable de les comprendre – c’est-à-dire de concevoir des programmes dotés du bon sens nécessaire pour exploiter cette « perception14 ». Les programmes actuels sont tout simplement trop spécialisés, trop stupides – si vous me permettez l’expression – pour s’occuper de quelque chose d’aussi complexe qu’une théorie de la pensée. Mais une fois que nous aurons appris à rendre les machines suffisamment intelligentes pour comprendre ces théories, alors (et seulement alors) je ne vois aucun inconvénient particulier à leur donner davantage d’« auto-perception15 ».
76Bien sûr, ce n’est peut-être pas si judicieux que ça, mais peut-être devrons-nous le faire. Car, je soupçonne nos sceptiques de se tromper, ceux qui enseignent que la conscience de soi est un étrange appendice métaphysique, au-delà et en dehors de la simple intelligence, qui nous rend humains, sans pour autant avoir d’utilité ni de fonction. Au lieu de cela, il se pourrait qu’à un moment donné, nous devions rendre les ordinateurs plus conscients d’eux-mêmes, simplement pour les rendre plus intelligents ! Il me semble qu’aucun robot ne pourrait entreprendre en toute sécurité une tâche complexe et de longue haleine sans avoir au moins une petite « perception » sur ses propres dispositions et capacités. Il ne devrait pas se lancer dans un projet sans en savoir suffisamment sur lui-même pour être certain de rester « intéressé » assez longtemps pour le mener à bien. De plus, pour pouvoir apprendre de nouvelles façons de résoudre des problèmes complexes et nouveaux, il lui faudra peut-être, encore une fois, avoir au moins une idée simplifiée de la manière dont il résout déjà des problèmes plus anciens et plus simples. Pour cette raison, entre autres, je pense que tout système vraiment robuste de résolution de problèmes, capable de s’adapter aux changements majeurs de sa situation, doit posséder une sorte de modèle de lui-même.
77D’un autre côté, il existe quelques limites théoriques mineures à l’introspection. Aucune machine intéressante ne peut, en général, prédire ce qu’elle fera exactement, car elle devrait calculer plus vite qu’elle ne le peut. L’introspection ne peut donc produire que des descriptions « générales », fondées sur des principes simplifiés. Les gens, eux aussi, ne peuvent nous donner que des détails fragmentaires de leur façon de penser et finissent généralement par dire des choses comme « Cela m’est venu à l’esprit ». Nous entendons souvent parler d’« expériences mystiques » et de récits de compréhension totale de soi. Mais lorsqu’on entend ce qu’ils racontent sur ce qu’ils ont assimilé, on a l’impression qu’ils n’ont appris qu’à apaiser une partie de leur esprit qui se posait des questions.
78Ainsi, la « conscience » ne produit qu’un modèle mental sommaire et simplifié, adapté uniquement à des usages pratiques et sociaux, mais pas suffisamment précis pour le travail scientifique. En effet, les modèles que nous avons de nous-mêmes semblent tellement plus faibles qu’ils ne devraient l’être que l’on soupçonne que des mécanismes systématiques s’opposent (comme le suggérait Freud) à la formation d’images de soi trop réalistes. Il pourrait y avoir une raison à cela, car que se passerait-il si vous pouviez réellement observer vos objectifs « sous-jacents » — et que vous disiez « eh bien, je n’aime pas ces objectifs » et les changiez d’une manière ou d’une autre ? Pourquoi, alors, gaspiller une éternité de recherches sur les non-survivants ? Puisque presque chaque nouvelle invention comporte un bug fatal. Car, comme nous l’avons noté précédemment, une partie du travail de l’évolution consiste à rationner la créativité de nos cerveaux-machines.
79Mais si nous choisissions de construire des machines plus astucieusement intelligentes, nous aurions plus de choix qu’il y en eut lors de notre propre évolution – car la biologie a dû limiter le câblage de notre cerveau, alors que nous sommes capable de câbler les machines presque comme bon nous semble. Ainsi, finalement, ces créatures artificielles pourraient avoir une vie intérieure plus riche que celle des humains. (Est-ce que j’entends crier « trahison » ?) Eh bien, nous devrons simplement laisser cela aux générations futures — qui ne voudraient sûrement pas construire les choses aussi bien sans avoir de bonnes raisons de le faire.
Peut-on réellement construire des machines intelligentes ?
80Il va se passer beaucoup de temps avant que nous en sachions suffisamment sur le raisonnement fondé sur le bon sens pour fabriquer des machines aussi intelligentes que les humains. Nous savons déjà beaucoup de choses sur la fabrication de systèmes utiles, spécialisés, « experts », mais pas encore assez pour leur permettre de s’améliorer de manière intéressante. Néanmoins, toutes ces croyances qui placent l’intelligence des machines bien en dessous de la nôtre ne sont que des spéculations imprudentes, fondées sur des suppositions non étayées sur la manière dont l’esprit humain pourrait fonctionner. Nous permettre de découvrir davantage de manières dont les esprits humains se trompent est le meilleur usage que nous puissions faire de tels arguments ! Plus nous saurons pourquoi notre esprit fait des choses stupides, mieux nous comprendrons comment nous faisons souvent les choses aussi bien. Dans les années à venir, nous découvrirons de nouvelles façons de rendre les machines et les esprits plus sensés. Nous découvrirons d’autres types de connaissances et de processus, et comment permettre aux machines d’acquérir encore plus de connaissances par elles-mêmes, tout en apprenant nous-mêmes à concevoir la « pensée », le « sentiment » et la « compréhension » non pas comme des facultés uniques et magiques, mais comme des réseaux complexes et compréhensibles de représentation et d’utilisation des idées.
81À leur tour, ces nouvelles idées nous donneront de nouvelles idées pour de nouvelles machines, lesquelles, à leur tour, modifieront encore davantage notre conception des idées. Et bien que personne ne puisse prédire où tout cela nous mènera, une chose est sûre, même aujourd’hui : il y a quelque chose qui ne va pas dans le fait de prétendre connaître les différences entre les hommes et les possibles machines , car nous n’en savons tout simplement pas assez aujourd’hui, ni sur les hommes ni sur les possibles machines du futur.
Notes
1 Nous avons repris les italiques du texte original (ndt).
2 Bien sûr, je simplifie considérablement cette histoire. Newell A., Simon H. (1972), Human Problem Solving, Englewood Cliffs, Prentice-Hall.
3 Ibid.
4 Minsky M. (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, Prentice-Hall.
5 Ce n’est pas tout à fait exact. Lisp n’intègre pas vraiment ces « fais chaque fois que », mais les programmeurs peuvent apprendre à créer de telles extensions, et la plupart des travailleurs de l’IA estiment que la flexibilité supplémentaire l’emporte sur les inconvénients.
6 Notez qu’il est impossible pour un parent de remarquer, puis de récompenser, l’intérêt réflexif d’un jeune enfant pour l’apprentissage. Au contraire, l’enfant semblerait en faire moins plutôt que plus, et pourrait être incité à « se ressaisir ».
7 L’haltère – l’accessoire de musculation ou les paires de petits boutons présents dans les ailes de certains insectes pour assurer leur stabilité en vol – renvoie à l’idée d’une structure double dont les deux parties sont bien délimitées. Minsky fait un jeu de mots avec dumb, « idiot », Dumbell étant un type d’haltères héxagonales, pour qualifier cette théorie (ndt).
8 Encore un jeu de mots relatif à l’idée reçue des deux hémisphères.
9 Mais certainement pas toujours.
10 Davantage de détail sur cette théorie se trouvent dans mon article sur les blagues.
11 Comme les « sceptiques » dans la thèse de Kornfeld.
12 L’anglais distingue awareness et consciousness, alors que le français n’a qu’un seul terme – conscience – pour désigner les deux. Le premier fait référence à un phénomène plutôt immédiat et implicite, tandis que le second est davantage réflexif, supposant un certain recul. On pourrait dire que le nourrisson est aware, et que quelques années plus tard, il devient conscious (ce que l’emploi du pronom personnel « je » manifesterait) (ndt).
13 Nous avons ajouté les guillemets (ndt).
14 Nous choisissons de traduire insight par « perception ». « Intuition » pourrait parfois mieux convenir dans la suite, mais il est trop polysémique (ndt).
15 Je pense que nous serions assez intelligents pour comprendre les principes généraux de notre pensée, si on nous les expliquait. Enfin, je l’espère. Mais je doute que nous disposions de suffisamment de canaux d’auto-information intégrés pour les comprendre par « introspection ».
Haut de pagePour citer cet article
Référence papier
Marvin Minsky, « Pourquoi les gens pensent que les ordinateurs en sont incapables ? », Socio-anthropologie, 52 | -0001, 229-247.
Référence électronique
Marvin Minsky, « Pourquoi les gens pensent que les ordinateurs en sont incapables ? », Socio-anthropologie [En ligne], 52 | 2025, mis en ligne le 18 février 2026, consulté le 15 juin 2026. URL : http://journals.openedition.org/socio-anthropologie/21477 ; DOI : https://doi.org/10.4000/15qdk
Haut de pageDroits d’auteur
Le texte seul est utilisable sous licence CC BY 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.
Haut de page


