Navigation – Plan du site

AccueilNouvelle série52EntretienL’IA nous enseigne que nous ne sa...

Entretien

L’IA nous enseigne que nous ne savons pas très bien nous-mêmes comment notre intelligence fonctionne

Entretien avec Daniel Andler, propos recueilli par Olivia Chevalier
AI Teaches Us That We Ourselves Don’t Really Know How Our Intelligence Works
Daniel Andler et Olivia Chevalier
p. 213-226

Texte intégral

Olivia Chevalier : Bonjour, est-ce que vous pourriez m’expliquer votre parcours s’il vous plaît ? Vous pouvez remonter loin, à l’âge de 2 ans si vous voulez, ou même avant votre naissance. Comment en êtes-vous venu à vous intéresser, pas simplement à l’IA, mais à ce que vous faites ?

Daniel Andler : Ce n’est pas très remarquable. On va simplement revenir au moment où je suis arrivé à Berkeley, en 1969. J’avais donc 23 ans et j’avais commencé des études de mathématiques à Paris, à l’université de Paris – à l’époque, elle n’était pas divisée en je ne sais pas combien d’unités – à l’Institut Henri Poincaré. J’avais choisi les mathématiques tout en ayant un goût prononcé pour la philosophie et donc je faisais en parallèle la philo et les maths. Mais enfin, c’était dans les maths que j’avais décidé de me spécialiser dans un premier temps, de me professionnaliser, donc je suis allé faire un doctorat à Berkeley.Pour deux raisons. D’abord parce qu’il faut circuler, il faut profiter des études pour bouger. Mais aussi parce que les maîtres de ma sous-discipline au sein des mathématiques, à savoir la logique mathématique, étaient pour beaucoup aux États-Unis et notamment à Berkeley où la sous-branche de la logique mathématique, qu’on appelle la théorie des modèles, avait été développée par le grand logicien polonais Alfred Tarski et ses élèves.Donc je suis allé faire un doctorat là-bas, mais en parallèle, j’avais eu de la chance, un peu par hasard, de rencontrer un jeune philosophe américain, Hubert Dreyfus, qui avait d’ailleurs fait une année comme pensionnaire étranger ici à l’École normale. Formé à la philosophie analytique avec une thèse de Harvard, ses yeux avaient été ouverts par ce qu’il avait découvert ici de l’existentialisme et la phénoménologie.Il venait d’être nommé professeur au moment où je suis arrivé à Berkeley. Il arrivait donc lui aussi. Il avait réfléchi à l’IA avec son frère Stuart Dreyfus, qui est un spécialiste de recherche opérationnelle, une forme de ce qu’on appelle aujourd’hui intelligence artificielle, et il avait été chargé par la Rand Corporation de faire un rapport sur l’intelligence artificielle qui s’était développée depuis le milieu des années 1950. Au moment de notre rencontre, le rapport, très critique, avait été publié, et Hubert Dreyfus poursuivait son analyse de l’IA tout en donnant des cours, suivis avec passion par ses étudiants et par moi-même, sur Husserl, Heidegger, Sartre, Merleau-Ponty, Kierkegaard. En parallèle, il avait créé un séminaire sur l’intelligence artificielle, le séminaire dont est sorti son livre de 1972, What Computers Can’t Do, à la traduction duquel j’ai contribué dix ans plus tard.C’est ce séminaire qui m’a mis sur la piste d’une question dont je n’avais pas du tout mesuré le caractère philosophique et problématique. Je pensais que la question de savoir si une machine peut penser était facilement réglée : on pouvait dire tout simplement qu’une machine ne peut pas penser parce que c’est une machine. Et c’est là que, quand j’ai suivi ce séminaire, je me suis rendu compte que des gens beaucoup plus mûrs philosophiquement et beaucoup plus astucieux que moi avaient beaucoup de mal justement à trouver l’argument massue, qui permettait de dire que oui, bien sûr, une machine ne peut pas penser.Donc j’ai poursuivi mes études de philosophie tout en passant mon doctorat de mathématiques, mais ma curiosité philosophique continuait à se développer. C’est au fond, par le biais de cette question de l’intelligence artificielle que je suis graduellement passé des mathématiques à la philosophie.J’ai fait un peu plus de 20 ans de carrière de mathématiques à Orsay, à Paris 7, à Paris-Nord et puis j’ai obtenu un poste de philosophie en 1989, à Lille. Ils cherchaient un logicien. C’était de la chance parce que ce n’est pas très facile, la corporation philo n’étant pas tellement prête à céder un de ses rares postes de professeur de philosophie à quelqu’un qui n’est pas agrégé de philo, élevé comme il faut, etc. Ensuite j’ai eu quelques années plus tard un poste à Nanterre, et ensuite quelques années plus tard un poste à Paris 4.Pour ce qui est de l’intelligence artificielle, donc, après avoir eu une phase d’activité sur l’IA dans les années 1980 – c’est là que j’ai écrit mes premiers articles, disons de philosophie – je me suis rendu compte que pour vraiment mieux comprendre – d’autant plus que l’IA échouait à ce moment-là de manière assez massive, c’était à la période des hivers de l’IA, n’est-ce pas – eh bien qu’il fallait regarder les sciences cognitives qui sont en un certain sens, rien d’autre que la science de l’intelligence humaine.Et donc c’est à ce moment-là que je me suis investi dans les sciences cognitives, à la fois comme philosophe des sciences – j’apprenais sur le terrain mon métier de philosophe des sciences – et en même temps mon métier de cognitive scientist. Non pas en contribuant directement à des revues scientifiques, mais disons en m’associant à des équipes pluridisciplinaires et aussi en contribuant à structurer le milieu français des sciences cognitives, qui n’existait pas. Et donc c’est comme ça que j’ai successivement été cofondateur avec Michel Imbert du DEA de sciences cognitives, et puis, au Crea (Centre de recherche en épistémologie appliquée), où j’ai formé le groupe de recherche sur la cognition avec les gens qui constituent maintenant les seniors de l’Institut Jean Nicod : François Récanati, Dan Sperber, Pierre Jacob, etc. Puis, à la demande du directeur de l’École normale supérieure récemment nommé, j’ai fondé le département d’études cognitives, le Dec ici en 2000.Voilà comment je suis passé de la logique mathématique à une réflexion sur l’IA, et de l’IA aux sciences cognitives, avec une étiquette de philosophe des sciences, une qualification, une compétence de philosophe des sciences que j’ai acquise peu à peu, en publiant dans le domaine.

Olivia Chevalier : Et comment êtes-vous revenu à l’IA ?

  • 1 Approche réseau.

Daniel Andler : Je suis revenu à l’IA au moment où elle a renoué avec le succès et au point de faire la une des journaux, dans l’idée simplement de mettre à profit mon expérience passée, puisque je connaissais l’IA des débuts, l’IA dite symbolique, classique, et ses difficultés. Et puis il se trouve que, au milieu des années 1980, je m’étais familiarisé avec l’approche connexionniste qui maintenant existe sous le nom de deep learning. Et là aussi, c’était un peu un hasard et, puisqu’on est, disons, à cheval sur des thèmes et la biographie, je vous raconte. Il se trouve que j’avais fait une tournée des laboratoires et des instituts de sciences cognitives aux États-Unis, en 1984, sauf erreur, et à Cambridge Massachusetts, j’avais rencontré James McClelland, qui était l’un des fondateurs du groupe PDP (Parallel Distributed Processing1) de San Diego. Et il m’avait donné un tapuscrit, du chapitre d’introduction du fameux livre en deux volumes, PDP, qui allait devenir la bible du connexionnisme. Et donc, je me suis enthousiasmé, comme Hubert Dreyfus d’ailleurs de son côté, pour cette approche complètement différente de l’approche symbolique. En revenant en France, je m’en étais un peu fait le prédicateur, puis je m’étais rendu compte que dans le bureau à côté du mien, il y avait des gens qui faisaient déjà du connexionnisme, sans l’appeler ainsi (on disait l’approche réseaux). S’y trouvait notamment Yann LeCun, qui était un jeune doctorant à l’époque.

  • 2 Yoshua Bengio, Yann LeCun et Geoffrey Hinton sont connus comme étant les pères fondateurs du deep l (...)

Olivia Chevalier : Il n’avait pas encore rencontré Yoshua Bengio2 ?

Daniel Andler : Non, il était loin d’être avec Bengio. C’est beaucoup plus tard que la rencontre avec Bengio s’est faite. En revanche, c’est là aussi un hasard et un accident : je suis à l’origine de sa rencontre avec Geoffrey Hinton parce que, en 1985, il y a eu un grand colloque appelé Cognitiva et on m’avait demandé d’organiser une table ronde. Et à cette table ronde, j’avais invité Hinton d’une part et Yann LeCun d’autre part. C’est à ce moment-là que leur collaboration a commencé. Tout ça était vraiment très mineur comme contribution. Ce sont un peu les hasards de la vie.

Olivia Chevalier : C’est donc dans ce contexte que votre ouvrage Intelligence artificielle, intelligence humaine : la double énigme, paru chez Gallimard en 2023, va voir le jour ?

Daniel Andler : Oui, au moment où l’IA est redevenue à la mode et où le connexionnisme – que j’avais défendu à ma manière 20 ans auparavant – triomphait, je me suis dit que j’allais écrire un petit livre très simple en très peu de temps, qui allait seulement expliquer qu’il y a eu la phase symbolique, qu’il y a la phase connexionniste, qu’il y a néanmoins quelques problèmes, disons théoriques, sur – que sais-je – la conscience, ce qu’on voudra. Et puis en fait, ce bouquin, il m’a fallu 4 ans pour l’écrire et voilà, il est devenu gros et lourd et épais et ennuyeux. Mais bon.

Olivia Chevalier : Nous sommes très nombreux à ne pas être d’accord sur ce dernier point. Votre réflexion sur l’IA continue alors ? Là aussi, nous sommes nombreux à nous en réjouir.

Daniel Andler : Oui, je suis obligé d’assurer le suivi, je me tiens au courant des développements techniques de l’IA et puis du commentaria de cette surabondante littérature. Intéressante d’ailleurs parce qu’il y a beaucoup de gens intelligents, et des gens qui disent des choses intelligentes sur l’IA, et il y a aussi beaucoup de n’importe quoi.

Olivia Chevalier : Justement, quel est votre regard sur les fantasmes auxquels donnent naissance les progrès de l’IA, et les promesses de certains qui la développent ? N’est-ce pas important de défendre la raison à un moment où elle a souvent une très mauvaise presse, y compris académiquement ? Je pense notamment aux critiques que l’informaticien Joseph Weizenbaum a formulées dès 1976, à la suite de son effarement devant la naïveté d’utilisateurs de son fameux programme Eliza. Il distinguait d’ailleurs « raison » et « logicalité » pour éviter la confusion entre l’intelligence humaine et celle de la machine de son époque. Cependant, les progrès fulgurants de l’IA (IA générative notamment) invalident-ils les critiques de ce dernier ? Comme vous terminez votre ouvrage sur Weizenbaum, je souhaiterais que vous développiez s’il vous plaît.

Daniel Andler : Il y a, disons, l’idée que le flux mental est, ou devrait, ou peut être, reconstruit rationnellement, comme une suite d’« éléments ». Alors que la raison c’est quelque chose de plus, de plus large, ça implique davantage. Alors je pense qu’il a raison, je n’ai pas arrêté de défendre cette idée. Au fond, je m’en rends compte en répondant en réaction à votre question, que c’est une espèce de fil conducteur pour moi depuis les années 1970. Même quand ensuite j’ai complètement arrêté de penser à l’IA et que je la retrouve maintenant, le fil conducteur, c’est que oui, la logique nous permet, une fois qu’on a déterminé quelles sont les informations pertinentes, d’en déduire, ou d’en induire dans le cas probabiliste, des informations utiles pour la tâche à résoudre. Mais, en revanche, la sélection des aspects pertinents de la situation, ça c’est quelque chose qui dépend de bien d’autres choses et qui n’est d’ailleurs pas, comment dire, sujet à une norme entièrement objective, même s’il y a un certain nombre de contraintes. Il s’agit de quelque chose qui dépend beaucoup de l’habitude, du style de pensée, de l’exemple des pairs, de l’expérience qu’on a de situations du même genre, etc. L’intelligence est surtout là, dans la manière dont à partir d’une situation donnée, on va essayer de se ramener à un ensemble de données pertinentes qui à ce moment-là définissent un problème, et que ce problème-là on va pouvoir le résoudre, avec des méthodes qui sont logiques au sens large. En tout cas, je distingue bien sûr « logicalité » en ce sens, et raison.Et puis, sur un axe un petit peu différent mais qui est fondamentalement le même, je distingue le raisonnable du rationnel. Le raisonnable implique justement un jugement, un jugement global sur l’importance relative des considérations, sur la manière dont on va ou non accepter une conclusion, sachant qu’on a pu se tromper dans les hypothèses, se tromper dans la déduction, oublier des éléments essentiels, s’être trompé à cause des biais, etc. Le raisonnable, ça consiste à essayer de faire le mieux possible à partir des résultats que, disons, le rationnel nous a donnés. Donc oui, je distingue et je me range dans cette catégorie des gens qui pensent qu’il y a deux ordres distincts, qui ne sont pas deux ordres séparés, comme le seraient par exemple celui de l’intuition et celui de la raison linéaire ou la raison logique. Mais je pense simplement que la logique ne nous donne pas les clefs de la raison, parce que c’est à nous de décider quelles règles logiques s’appliquent à quelles hypothèses, et si la conclusion que nous en tirons doit être acceptée ou non, au regard de tout le reste. Par exemple, si on tombe sur une conclusion totalement invraisemblable, il faut la rejeter. Puis se remettre à travailler et chercher où on a pu se tromper, ou de quelle donnée on n’a pas pu tenir compte, et des choses comme ça.

Olivia Chevalier : D’où l’importance de la nature de l’information ?

  • 3 Fodor J. (1986), La modularité de l’esprit. Essai sur la psychologie des facultés, Paris, Éditions (...)

Daniel Andler : Il faut en effet parler du fait, évident, que l’IA symbolique a pour paradigme le raisonnement sur des pensées conscientes, ou qui pourraient l’être. Alors que le connexionnisme a pour paradigme la perception sur des informations qui sont subpersonnelles, qui ne sont pas des informations auxquelles on a accès, mais plutôt les informations auxquelles ont accès nos systèmes automatiques, de la perception et de la motricité. Nous ne savons pas comment nous faisons pour reconnaître un visage, ou nous ne savons pas comment nous faisons pour accéder au nom d’un collègue, etc. Donc tout ça, tout ce qui est de l’ordre des inputs systèmes – si on parle comme Fodor, dans son livre de 19833 – tout ça, ça vient automatiquement, on n’a pas de contrôle volontaire dessus, ou seulement très, très indirectement, et surtout ça porte sur des poussières d’information. C’est quoi les informations quand on repère le coin de cette fenêtre ? Notre système visuel a dessiné une espèce de sketch, d’ébauche, mais on ne sait absolument pas comment ça a été fait.

Olivia Chevalier : L’IA générative peut-elle recevoir les mêmes objections de principe selon vous ?

  • 4 John Haugeland (1945-2010) était un philosophe américain, spécialisé dans la philosophie de l’espri (...)

Daniel Andler : L’IA générative prolonge le deep learning, c’en est une application. Simplement c’en est une application particulièrement astucieuse parce qu’elle s’applique non pas à des scènes visuelles, mais à des textes, à une masse colossale de textes. Et donc là, il y avait vraiment eu une idée. Il y avait un entrecroisement de la tradition du traitement du langage naturel, avec l’idée de la représentation vectorielle du sens des mots et des phrases. Ça c’était déjà une belle idée, et puis difficile à mettre en œuvre et imaginative, etc., qui croise donc la tradition du deep learning pour arriver à cette idée qu’on peut d’une certaine façon – de même qu’on peut accumuler des exemples innombrables de photos de chats et de chiens et acquérir une sorte de compétence sur la reconnaissance des chiens et des chats – on peut faire la même chose sur des textes. Or, les textes véhiculent des informations de tout temps ou sur toutes sortes de domaines. On est donc bien dans un paradigme nouveau.Alors, c’est bluffant, ça peut être utile dans certains cas, même très utile dans beaucoup de cas, et ça a aussi des inconvénients. Mais ce qui est sûr c’est que ce n’est pas de l’intelligence, ce sont des effets d’intelligence obtenus par association d’idées sur un nombre incalculable, sur une quantité astronomique de textes qui encodent en réalité beaucoup plus de connaissances qu’on imaginait. Il fallait faire ça pour se rendre compte que si on prend la totalité d’internet – enfin purifié – on obtient finalement des informations extrêmement fines qui permettent de répondre avec pertinence à énormément de questions. Et ça, c’est bluffant. C’est quelque chose qu’on a appris, c’est quelque chose auquel Dreyfus ne pouvait pas penser, et moi encore moins, et Haugeland4 et Weizenbaum non plus. Il y a quand même quelque chose de véritablement nouveau, mais ce n’est pas du tout de l’intelligence, enfin c’est une intelligence humaine colossale, des milliards de témoignages ou de traces laissées par l’intelligence humaine, mise en boîte. Ce qui est bluffant, c’est que sur un prompt, elles peuvent ressortir, dans cette énorme collection, les bouts d’intelligence pertinents. C’est souvent répétitif, c’est souvent très plat et ça a plein d’inconvénients. Mais il y a quand même quelque chose qu’on a découvert.

Olivia Chevalier : Dès lors, comment situer l’IA actuelle au regard de l’objectif initial des fondateurs de l’IA, à savoir la reconstruction artificielle de l’intelligence humaine ?

Daniel Andler : On s’en est éloigné. On a vraiment complètement laissé tomber si vous voulez. Ma façon de lire l’histoire de l’IA, de très loin et très en oblique, me fait dire ceci : on avait des ambitions au début, on allait littéralement reconstruire sur ordinateur ou sur une puce, l’intelligence humaine. Puis on a renoncé, peu à peu. À tout, à l’intelligence humaine, à des trucs qui accompagnent l’intelligence humaine telle que la conscience, etc. On a renoncé à ça, puis on est passé aux systèmes experts, où déjà on a dit « Bah nous on ne sait pas comment font les pompiers ou les urgentistes ou je ne sais qui, mettons les vétérinaires, pour traiter les cas divers et variés qu’ils rencontrent. Alors on va aller demander aux experts comment ils font. » Ils doivent avoir des règles heuristiques, qu’on va mettre en musique. On va faire des systèmes experts. Donc on avait déjà complètement renoncé là, d’une certaine façon, à reproduire l’intelligence humaine.Maintenant on est à l’extrême de ce mouvement, où il n’y a, en un sens, plus du tout d’intelligence. Il y a de la mise en boîte de l’intelligence déjà constituée sous la forme de textes qu’on ramasse sur Internet.

Olivia Chevalier : Pour reconstruire cette intelligence humaine, la solution serait-elle – comme le proposent LeCun, et avant lui Minsky – d’implémenter en quelque sorte le sens commun aux machines ?

  • 5 Douglas Lenat (1950-2023) était un chercheur en IA, connu pour ses travaux en représentations des c (...)
  • 6 J.R. Anderson, professeur de psychologie et d’informatique à l’université Carnegie Mellon de Pittsb (...)

Daniel Andler : Alors ça, ça se situe dans une longue dialectique. Donc, au moment des discussions sur l’IA symbolique, grâce en particulier à Dreyfus – qui a exercé incontestablement une influence sur beaucoup de gens, même si certains disaient qu’il exagérait, mais il nous a drôlement ouvert les yeux – des gens qui travaillaient dans l’IA tout à fait passionnés et professionnels ont dit : « Bah voilà ce qui nous manque : c’est le bon sens, nos machines n’ont pas le bon sens. » Douglas Lenat5 a dit : « Attendez, ne nous laissons pas intimider. Oui, Dreyfus a raison de dire que pour agir avec intelligence, il faut avoir une certaine familiarité avec le monde tel qu’il est. Le monde des objets physiques, le monde des rapports sociaux, ce qu’on fait en entrant dans une boulangerie. Enfin voilà tout ça. Mais ce n’est pas compliqué, c’est un grand nombre de faits et je vais accumuler tous ces faits. » Et il a lancé un énorme projet qui s’appelle CYC, où il a emmagasiné des millions et des millions de faits. Il s’agit de l’idée qu’il nous faut du sens commun pour agir dans le monde tel qu’il est, pas simplement un monde purifié, raréfié, qui est celui du laboratoire, qui est celui de l’expérience de la robotique dans un milieu simplifié. Pour agir dans le monde tel qu’il est, il faut avoir une connaissance familière, commune de ce monde. C’est ça la connaissance de sens commun.Et ce que fait Yann LeCun, c’est tenir une position singulière parmi les champions, les « turinguisés » de l’IA, en s’appuyant sur deux choses. D’une part, il estime que ce qu’on peut apprendre sur le monde par le témoignage du langage ne suffit pas pour agir intelligemment : il faut opérer directement sur le monde, ou plus exactement sur des modèles du monde qu’il faut construire. Comment le fait-on ? C’est la deuxième idée : doivent nous aider à le comprendre les sciences cognitives, qu’il connaît notamment par le biais d’Emmanuel Dupoux, qui est dans son équipe de Facebook. C’est pourquoi LeCun pense qu’il faut s’inspirer de l’intelligence humaine et qu’on ne s’en inspire pas suffisamment, et qu’il faut donc aller chercher de nouvelles idées de ce côté-là. Et il les cherche notamment dans une idée d’architecture. Il revient à cette idée des architectures dans la tradition de Anderson6 et là, il a une espèce de théorie très personnelle qu’il a exposée plusieurs fois qui consiste à dire qu’il y a différents modules dans l’esprit qui se chargent de mémoire à long terme, à court terme, etc. C’est assez complexe, difficile à comprendre : mais c’est ça la recherche, et Yann, comme moi, pensons qu’il faut encore chercher pour progresser vraiment en IA. Quant à la question du sens commun, elle est centrale pour Le Cun : c’est ce qui nous permet à nous de nous débrouiller dans le monde tel qu’il est, et qu’il faudra bien conférer aux systèmes d’IA. On doit pouvoir y arriver, mais autant que je sache il n’a pas d’idée précise, sauf peut-être grâce à cette architecture qu’il vient d’inventer.

Olivia Chevalier : On en revient toujours à cette vieille question : une machine pourra-t-elle, via une architecture qu’on suppose très complexe, saisir une signification, « savoir » de quoi elle « parle » ?

Daniel Andler : C’est un problème qui se pose beaucoup en ce moment, qui revient constamment. Dans les discussions sur l’IA, on dit depuis le début que la machine ne sait pas de quoi elle parle, qu’elle n’a pas d’appréhension directe du sens et elle est beaucoup discutée aujourd’hui au sujet des chatbots : est-ce que ChatGPT comprend ce dont il parle ?Alors, en un sens, ce n’est pas qu’il soit dans une cécité – ce que j’appelle la cécité sémantique – absolue. Elle est relative, c’est-à-dire qu’il peut situer en quelque sorte une espèce de théâtre des ombres, où ces ombres ont entre elles des rapports qui sont isomorphes aux rapports qu’ont entre elles les choses auxquelles il se réfère, mais évidemment, comme il n’a pas accès, lui, directement à l’être, aux choses mêmes – puisque ce n’est que par les représentations qu’il en a – c’est un malvoyant sémantique si vous voulez plutôt qu’un aveugle complet.

Olivia Chevalier : Donc il faut distinguer un bon sens propre à l’IA, qui ne tournerait pas autour de la saisie d’un sens ?

Daniel Andler : Oui. Sinon on s’écarte de ce qu’on appelle le bon sens, dans la tradition de l’IA et de sa critique, qui est vraiment une familiarité avec le monde tel qu’il est, plutôt que ce rapport direct avec le monde ou avec le sens. Donc c’est un peu différent, mais ça a un lien parce que, dans les deux cas, on se demande ce qu’une représentation du monde peut apporter à notre compréhension intuitive peut-être, ou de familiarité avec le monde lui-même. Et là, il faut bien le reconnaître, ce sont des mystères philosophiques, c’est-à-dire des choses sur lesquelles on ne sera jamais absolument sûr de tenir la réponse.

Olivia Chevalier : Pour finir, j’ai une double question sur les effets de l’IA. Est-ce que vous pensez que le progrès de l’IA (et des IA) redéfinit le concept d’intelligence (en l’élargissant, en pondérant différemment l’importance de telle ou telle de ses composantes, etc.) ? Considérez-vous que l’usage des IA a un effet sur notre intelligence (humaine), si oui lequel ou lesquels ?

Daniel Andler : Sur la première question, la longue perspective historique sur l’IA nous ramène au fameux paradoxe qui énonce essentiellement que l’IA n’a pas de chance, car à chaque fois qu’elle résout un problème, on dit que ce n’est pas de l’intelligence puisque la machine y est arrivée. Aristote pensait que c’était l’arithmétique, mais Pascal montre qu’une machine peut faire de l’arithmétique, et même avant Pascal, si je comprends bien. Puis les dames, les échecs, la planification, etc. Tout ça finalement ce n’est pas de l’intelligence parce que la machine peut le faire.Dans mon livre, j’explique pourquoi ce n’est pas vraiment paradoxal : car une fois qu’on se trouve dans ce genre de situation dans laquelle il existe une solution algorithmique, on dit que puisqu’un algorithme permet de la résoudre, ce n’est pas de l’intelligence. Par conséquent, je pense que les progrès de l’IA – depuis l’IA symbolique jusqu’à aujourd’hui – montrent en partie que l’intelligence humaine n’est pas entièrement cette chose ineffable que personne ne peut maîtriser, et qu’en réalité, l’intelligence humaine se sert bel et bien d’outils qui peuvent être maniés par le cerveau lui-même, qui est un cerveau d’ailleurs éduqué – ce qui a un rapport avec la seconde question.Ce qu’il faut peut-être voir, c’est que l’intelligence apparaît comme cette espèce de grande qualité – indivisible en quelque sorte– qui nous permet de gérer notre flux mental d’une manière qui est pertinente, adaptée, et de découvrir de nouvelles choses, de repérer des dangers, etc., et qu’en réalité cette intelligence est composée. Je ne crois pas du tout à la théorie des intelligences multiples de Gardner, mais plutôt que l’intelligence consiste en la mobilisation pertinente, ou encore l’orchestration harmonieuse, en quelque sorte, d’un certain nombre d’outils d’analyse.Cela permet de voir plus clairement que les opérations qui sont à l’œuvre dans l’exécution d’un certain nombre de tâches ne sont pas des opérations magiques, mais des opérations systématiques, dont parlent d’ailleurs les sciences cognitives en se plaçant à un niveau de description un petit peu différent, et de le faire comprendre aux gens qui ne sont particulièrement formés ni à la philosophie de l’esprit, ni aux sciences cognitives. Par exemple, quand on dit : « Mais regardez, les ChatGPT et autres, ou même les modèles de deep learning pré-IA générative, ils opèrent à partir de beaucoup d’exemples. Ils ne semblent pas vraiment intelligents », on s’aperçoit qu’on peut retourner le compliment à l’intelligence humaine. Après tout, quand on regarde un bébé, il n’est pas très intelligent en arrivant. Il est exposé à des tas de trucs, il emmagasine tout ça, il va le redéployer. Si les succès récents de l’IA ont un effet sur notre conception ordinaire de l’intelligence, c’est qu’elle nous enseigne que nous ne savons pas très bien comment l’intelligence humaine fonctionne. Certes les sciences cognitives en savent plus que l’homme ordinaire. Mais elles ne savent pas tout, non plus.Si on regarde ce que fait ChatGPT, on peut penser qu’après tout, l’être humain ne fait peut-être pas très différemment. Il répond comme ça, par réflexe conditionné. Cette notion de pertinence que nous attribuons à quelque chose qui est miraculeux, qui est l’intelligence humaine, c’est peut-être de la mémoire associative ultra, ultra complexe. À vrai dire je n’y crois pas vraiment, mais je ne peux pas non plus rejeter l’idée avec horreur.

Olivia Chevalier : Et pour les effets probables en retour sur notre intelligence ?

  • 7 Jack Goody (1919-2015) était un anthropologue britannique.

Daniel Andler : En ce qui concerne la seconde question, je n’ai aucune idée personnelle là-dessus. Il est clair qu’il y aura des effets évidemment. On peut s’appuyer sur les thèses de Goody7 sur le fait que l’écriture – et son utilisation à un très jeune âge – a modifié très profondément le déploiement de la dotation mentale originelle, alors que nous avons à peu près le même ADN que nos ancêtres, etc. C’est l’effet Flynn. Le quotient intellectuel des générations au cours du siècle, depuis qu’on le mesure, c’est-à-dire depuis le tout début du xxe siècle, a augmenté régulièrement (bien qu’il semble qu’il commence à baisser à nouveau). Alors c’est un peu étonnant parce qu’on se dit que le quotient intellectuel moyen de l’espèce, c’est une notion fixe, alors comment se fait-il que ça peut s’améliorer ? Flynn a mis en évidence statistiquement cette augmentation régulière, et a montré qu’elle est due en partie au fait que l’humanité est devenue de plus en plus literate (lettrée). Au début du xxe siècle, l’essentiel de l’humanité, y compris dans nos pays, était illettrée (les conscrits de 1914 étaient illettrés pour la plupart d’entre eux). Le fait que de plus en plus de gens soient lettrés a fait que grâce à l’écriture, et donc à la lecture, ils ont progressé dans leur compréhension, dans leur intelligence générale, etc.Je ne doute pas que les instruments numériques, ne serait-ce que Google, sont en train de modifier certaines choses. Par exemple, nous consacrons moins de temps à essayer de mémoriser parce que nous savons que nous allons, grâce à Google, trouver très rapidement notre information en deux mots clés. Ce qui dans ce cas n’est pas vraiment un effet positif. Ou ne plus savoir se repérer à cause de Google Maps (certains étudiants ne savent pas utiliser une carte, ni n’en connaissent l’intérêt).

Olivia Chevalier : Je pensais également à des effets sur la manière de raisonner, ou d’ordonner nos pensées. Par exemple, penser par dossiers sur notre bureau d’ordinateur est-il le reflet de la manière « spontanée » de l’homme préinformatique d’organiser les choses, que nous aurions ensuite projetée sur les ordinateurs, ou bien est-ce pour des raisons matérielles, liées au support informatique et à son langage (ce qui aura éventuellement des effets en retour sur notre manière de penser, classer, raisonner, etc.) ?

Daniel Andler : Oui, je pense qu’il doit y avoir des effets de ce genre. Je sais très peu de choses dessus et même je suis aussi ignorant sur ce qui est fait de sérieux là-dessus. Mais je pense que comme il y a des armées de psychologues, scientifiques, il y en a bien quelques-uns parmi les jeunes qui ont découvert que c’étaient des sujets intéressants et on va voir. Moi ça m’intéressera beaucoup.

Olivia Chevalier : Cela conduit alors à la question de notre adaptation à ces outils, n’est-ce pas ?

Daniel Andler : Dans le milieu Human-Machine Interface (HMI), il y a déjà une réflexion sur la façon dont l’outil est plus ou moins adapté à l’être humain. L’être humain s’adapte plus ou moins à l’outil et ça remonte à assez loin. Bien avant, c’étaient des sciences cognitives très primitives, mais qui existaient déjà, notamment dans les laboratoires de l’armée, aussi bien aux États-Unis qu’en France. Parce que quand vous mettez un pilote de chasse, ou un conducteur de char, devant 30 dials, manettes, ou lampes témoin, etc., et qu’il doit prendre une décision en quelques secondes, il faut que tout ça colle, il faut qu’il y ait une adaptation. Ça, c’est ma métaphore, une métaphore très simple de la prothèse. Quand la prothèse est très simple, quand c’est juste un bout de bois attaché par des lanières de cuir à un moignon, on n’a pas besoin de savoir grand-chose sur la physiologie du moignon. On voit à peu près qu’il faut que ça tienne. Mais si vous voulez faire une prothèse intelligente qui va pouvoir réagir intelligemment avec ce qui reste de jambe, il faut que vous sachiez, beaucoup, beaucoup de choses sur la manière dont la jambe fonctionne sur le plan nerveux, vasculaire, proprioceptif, etc. Et vous allez modifier probablement le fonctionnement du moignon.Et tout ça est donc étudié dans certains secteurs. Mais on ne peut pas tout savoir malheureusement. Là il faut du recul, beaucoup du recul. Enfin, il faut beaucoup d’études, il faut que peu à peu tout ça s’organise en quelque chose d’à peu près cohérent qu’on va pouvoir tester, en étudiant aussi des animaux, en étudiant toutes sortes de choses.

Olivia Chevalier : Je vous remercie beaucoup Daniel Andler.

Daniel Andler : Je vous en prie.

Haut de page

Notes

1 Approche réseau.

2 Yoshua Bengio, Yann LeCun et Geoffrey Hinton sont connus comme étant les pères fondateurs du deep learning. Pour une approche synthétique, on peut consulter leur fameux article : Bengio Y., LeCun Y. et Hinton G. (2015), « Deep Learning », Nature, 521, p. 436-444. DOI : https://doi.org/10.1038/nature14539.

3 Fodor J. (1986), La modularité de l’esprit. Essai sur la psychologie des facultés, Paris, Éditions de Minuit.

4 John Haugeland (1945-2010) était un philosophe américain, spécialisé dans la philosophie de l’esprit, les sciences cognitives et la phénoménologie. Pour lui, il manque un « ingrédient » (conscience, intentionnalité, etc.) pour que les IA puissent être des intelligences humaines.

5 Douglas Lenat (1950-2023) était un chercheur en IA, connu pour ses travaux en représentations des connaissances en ontologie (dont l’un des objectifs étaient de trouver les moyens de faire raisonner les machines comme les hommes. Pour cela, il développa le projet CYC destiné à développer une ontologie globale).

6 J.R. Anderson, professeur de psychologie et d’informatique à l’université Carnegie Mellon de Pittsburgh, connu pour son architecture ACT-R, qui propose un modèle de la cognition et notamment de la mémoire.

7 Jack Goody (1919-2015) était un anthropologue britannique.

Haut de page

Pour citer cet article

Référence papier

Daniel Andler et Olivia Chevalier, « L’IA nous enseigne que nous ne savons pas très bien nous-mêmes comment notre intelligence fonctionne »Socio-anthropologie, 52 | -0001, 213-226.

Référence électronique

Daniel Andler et Olivia Chevalier, « L’IA nous enseigne que nous ne savons pas très bien nous-mêmes comment notre intelligence fonctionne »Socio-anthropologie [En ligne], 52 | 2025, mis en ligne le 18 février 2026, consulté le 14 juin 2026. URL : http://journals.openedition.org/socio-anthropologie/21407 ; DOI : https://doi.org/10.4000/15qdi

Haut de page

Auteurs

Daniel Andler

Professeur émérite à Sorbonne Université. Il a débuté sa carrière comme mathématicien, spécialiste de logique, enseignant notamment à Orsay, Berkeley, Paris-Nord et Paris 7. Il a ensuite été professeur de philosophie des sciences à Lille, Nanterre et Paris IV (aujourd’hui Faculté des lettres de Sorbonne Université). Il a fondé et dirigé le département d’études cognitives de l’École normale supérieure, ainsi que le laboratoire Sciences, normes, démocratie (CRNS/Sorbonne Université), auquel il est également rattaché. Il s’intéresse particulièrement aux sciences cognitives et à l’intelligence artificielle et à leurs retombées dans différents domaines, dont l’éducation, la décision collective et les politiques publiques. Il a dernièrement publié La silhouette de l’humain, quelle place pour le naturalisme aujourd’hui ? (Gallimard, 2016), en codirection avec Thérèse Collins La cognition, du neurone à la société (Gallimard, 2018), et Intelligence artificielle, intelligence humaine : la double énigme (Gallimard, 2023). Il est membre de l’Académie des sciences morales et politiques, où il dirige le cycle d’études « Technologies émergentes et sagesse collective » (TESaCo). 

Olivia Chevalier

Olivia Chevalier est docteur en philosophie et chargée de recherche à l’Institut Mines-Télécom BS. Ses recherches ont d’abord été consacrées à la rationalité scientifique à l’âge classique (chez Descartes, Leibniz) et à sa pertinence contemporaine ; elles se prolongent aujourd’hui dans une réflexion sur les implications épistémologiques des nouvelles technologies au sein du PEPR O2R (robotique souple-déformable) et de la chaire Innovation bloc opératoire augmenté. 

Articles du même auteur

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search