1Daniel Andler est à la fois mathématicien et philosophe, professeur émérite à Sorbonne-Université et membre de l’Académie des Sciences morales et politiques. Il a publié de nombreux ouvrages sur l’intelligence artificielle et d’autres livres interrogeant les positions naturalistes si présentes dans les sciences.

2L’ouvrage dont il est question ici reste assez ardu, car il circule entre les sciences cognitives, la philosophie et les différentes acceptations ou définitions de l’intelligence artificielle, depuis ses débuts au milieu du siècle dernier. Il poursuit en même temps un objectif pédagogique pour informer et pour convaincre un large public, ce qui lui interdit de faire une histoire trop détaillée de l’intelligence artificielle : en résumant drastiquement il nous fait passer de l’intelligence artificielle symbolique au neuro-calcul dénommé connexionnisme et à sa forme actuelle du deep learning. Lequel pourrait se définir comme un « apprentissage profond » par des plongées d’algorithmes dans des bases de données quasiment infinies : les big data. Dans son introduction, l’auteur n’y va pas par quatre chemins en écrivant que l’intelligence artificielle est une chimère et l’intelligence humaine une énigme (p. 15), tout l’ouvrage mariant leurs convergences et leurs différences.

3Pour simplifier la compréhension de cette « galaxie », où le terme IA est utilisé avec plusieurs significations, Daniel Andler propose de distinguer trois ensembles d’activités qui, trop souvent, sont confondues (p. 22) :

• les institutions et la discipline de recherche qui produisent et promeuvent l’intelligence artificielle (dénommées IA dans le texte) ;
• ce que l’IA vise et ce qu’elle produit : l’auteur utilise le terme « intelligence artificielle », en toutes lettres ;
• les systèmes d’intelligence artificielle devenant SAI – pour Systèmes artificiels d’Intelligence –, c’est-à-dire des outils conçus pour résoudre des problèmes posés par les humains, dans des champs tels que le diagnostic médical, la traduction automatique, la gestion d’ensembles complexes, militaires, logistiques, etc.

4Si l’on cherche à résumer la problématique qui traverse tout l’ouvrage, on pourrait dire qu’il s’agit de comparer l’intelligence artificielle et l’intelligence humaine, pour savoir si la première pourra dépasser un jour la seconde. Ce qui demande une exégèse de l’intelligence artificielle – ou des intelligences artificielles plus précisément car elles sont plurielles –, puis exige une définition sinon une caractérisation de l’intelligence humaine, ce qui nous renvoie aux questions philosophiques chères à l’auteur. Lequel ne répond pas à la question posée, mais montre tout au long de son livre qu’elle est certainement mal posée.

5Pour présenter le projet ou le programme de l’IA, Daniel Andler rappelle ce qu’écrivait Herbert Simon en 1957 :

Je ne cherche pas à vous surprendre ou à vous choquer. Mais pour le dire aussi simplement que possible, il existe désormais dans le monde, des machines qui pensent, qui apprennent et qui créent. De plus, leurs performances en la matière vont augmenter rapidement jusqu’au moment où, dans un avenir prévisible, l’ensemble des problèmes qu’elles peuvent résoudre sera coextensif au domaine des problèmes auxquels l’esprit humain s’est attaqué (Heuristic Problem Solving: the Next Advance in Operations Research).

6Ce qui conduit Andler à cette interprétation :

Il est parfaitement clair que pour Simon et Newell ce programme est une première confirmation de leurs intuitions : il constitue un modèle réduit de machine pensante. Il n’est pas un simple automate. Il pense, certainement encore pauvrement. Mais lorsqu’on saura construire un logiciel en vraie grandeur, selon les mêmes principes, on aura obtenu quelque chose qui a tous les attributs de la pensée : quelque chose qui résout tous les problèmes à la portée de l’intelligence humaine (voire davantage), mais aussi qui pense, c’est-à-dire qui comprend ce qu’il fait, sait à quoi il pense, est conscient du monde où il pense et de lui-même (p. 33).

7Alors, Andler peut établir les cinq renoncements de l’intelligence artificielle historique :

• la machine ne comprend pas ce sur quoi elle opère, elle ne peut penser son objet ;
• l’IA abandonne l’idée d’une symétrie ou d’une équivalence avec l’intelligence humaine, à travers certains auteurs (Minsky, McCarthy) ;
• l’IA a fait de « la généralité une propriété essentielle de tout modèle de simulation de l’intelligence » (p. 39), affirmation qu’elle a dû abandonner, l’intelligence artificielle ne résolvant que des problèmes particuliers ;
• l’intelligence artificielle et les SAI ne peuvent être indépendants de l’intelligence humaine : l’intelligence artificielle dépend de la seconde pour poser les questions et les problèmes à résoudre ;
• l’intelligence artificielle ne peut réfléchir sur l’action qu’elle conduit et ne peut certifier la qualité des résultats obtenus.

8En allant plus loin, l’auteur souligne comment l’intelligence artificielle peut reproduire la perception humaine, au sens de la copier via des algorithmes, mais aucun SAI ne peut ressentir ou percevoir comme les humains par leurs sens. Il manque à l’intelligence artificielle un corps, sinon une incorporation.

9D’où de longs développements de l’ouvrage sur l’intérêt de la robotique qui donne à l’intelligence artificielle une réalité physique et spatiale pouvant la conduire à d’importants progrès qu’elle ne saurait accomplir sans cette sorte d’incorporéité (p. 184 à 187). Pour Andler,

il est incontestable que la nouvelle robotique tire parti de ressources théoriques qui ont fait la preuve de leur intérêt dans des domaines connexes et lui impriment une direction et une force particulières. Les deux principales sont à mon sens les suivantes. Primo, l’introduction d’un corps mobile dans un espace tridimensionnel soumis à la gravité et occupé par des objets exerçant des forces convoque la physique mathématique et le continu. Secundo, l’idée de l’apprentissage corporel actif commande l’adaptation incrémentale à l’environnement, qui peut donner lieu à des phénomènes d’émergence et d’auto-organisation (comme dans l’évolution biologique, et comme il a été confirmé dans certaines expérimentations en robotique) (p. 187).

10Après toutes ces contextualisations historiques et scientifiques, Daniel Andler pose de façon très claire sa problématique :

Il s’agit de savoir si les productions de l’IA [c’est-à-dire l’intelligence artificielle elle-même, voire les SAI ; précisions de J.-P. D.] participent d’une essence particulière ou partagent une propriété spécifique ; si cette essence est identique ou du moins apparentée à son homologue humain ; et enfin si l’écart entre les réalisations de l’IA d’aujourd’hui et les performances de l’intelligence humaine est dû à la difficulté de la tâche technoscientifique et à la lenteur de l’entreprise, ou bien à une différence entre les deux essences ou propriétés caractéristiques de l’intelligence artificielle et de l’intelligence humaine (p. 213).

11En effet, la question de la Comparaison – terme auquel Andler met une capitale – ne peut pas ne pas être formulée, puisque la société et l’IA elle-même, en tant qu’institution et entreprise scientifique, la posent. Pour répondre à la question,

deux voies s’ouvrent à nous : soit chercher s’il existe une ressource essentielle dont on pourrait doter l’IA pour qu’elle puisse résoudre les types de problèmes qui l’arrêtent aujourd’hui ; soit nous demander si l’intelligence est en réalité davantage ou autre chose que la capacité de résoudre des problèmes (p. 220).

12La première branche de l’alternative conduit Daniel Andler à rechercher l’ingrédient manquant – la ressource dans la citation ci-dessus – à l’intelligence artificielle. Il cite la conscience que ne peut guère posséder l’intelligence artificielle, parce que nous ne disposons pas d’une idée assez claire de ce qu’est la conscience humaine, d’où notre incapacité à doter les SAI de conscience.

13Le second ingrédient est le sens des paroles et des phrases que le SAI peut manipuler : malgré les immenses progrès de la traduction automatique, l’auteur donne plusieurs exemples – que chacun a pu vivre – de traduction erronée, car le sens dépend du contexte. Les plus optimistes peuvent considérer que le contexte pourrait être perçu par des algorithmes ultrapuissants et des bases de données colossales, mais Andler leur rétorque par avance que ce qui manquera toujours à l’intelligence artificielle est le sens commun qui habite la pensée humaine, à savoir une masse infinie d’informations que l’intelligence humaine manie. À partir de ces choses familières qui nous entourent – dont nous sommes à peine conscients – et à partir d’intuitions, les hommes pensent : le sens commun reste introuvable dans l’intelligence artificielle comme le déclare en 2018 David Gunning, spécialiste de cet objet particulier.

14Le dernier élément manquant réside dans les affects : Andler montre qu’une machine peut percevoir des affects – cas de l’expression des visages par exemple –, et qu’à partir de là, un SAI pourrait exprimer des affects, mais en aucun cas il ne pourra éprouver des affects, ce qui était l’une des conditions posées par Herbert Simon pour améliorer sensiblement la capacité d’un système à résoudre des problèmes de tous ordres (p. 239-240).

15Daniel Andler résume la question, en considérant que l’intelligence humaine s’organise en deux compartiments (p. 243), le premier, consacré à la résolution des problèmes – ici l’intelligence artificielle est plus efficace que l’intelligence humaine – et le second, dédié à la gestion d’autres tâches intellectuelles ou mentales, dénommées générales. C’est au succès (ou non) de l’intelligence artificielle à accomplir les tâches de ce deuxième compartiment que la suite de l’ouvrage entend donner une réponse.

16L’auteur introduit alors un nouveau concept, la normativité, et une nouvelle démarche démonstrative qui l’accompagne. Il oppose les concepts à normativité faible (le courage, la cruauté…) qui ne se discutent pas – il existe une norme, un étalon de comparaison partagé par tous –, aux concepts à normativité forte qui réclament un débat, puisque aucun jugement n’est par principe définitif : un vin agréable, une soirée réussie, etc. (p. 293). Tout dépend de la Situation – terme auquel l’auteur met aussi une majuscule – et de la perception qu’en ont la personne et l’intelligence humaine. Après une longue démonstration, Daniel Andler conclut le chapitre 8 ainsi :

le miracle n’a pas lieu, la réponse optimale à quelque Situation que ce soit est une vue de l’esprit. […] L’intelligence n’est ni un mécanisme, ni un système cognitif particulier, ni une propriété́ objective d’un tel mécanisme ou système, comparable à la puissance d’un moteur ou aux performances d’un cycliste. L’intelligence désigne la qualité d’un comportement et, par extension, celle de l’organisme qui produit ou génère un comportement particulier ayant cette qualité et, par une nouvelle extension, celle de l’organisme qui tend à générer des comportements ayant cette qualité. Cette qualité ne s’évalue pas à une aune unique, elle ne présente pas les mêmes aspects dans toutes ses manifestations (de la même manière qu’« être bon », en matière d’aliments, sans changer de signification, n’est pas fondé sur les mêmes propriétés chimico-gustatives ’s’agissant d’un vin, d’un fruit ou d’un fromage). Enfin, pour toutes les raisons développées à l’instant, l’intelligence n’est pas susceptible d’une évaluation objective finale : elle est l’objet de conversations argumentées qui font appel à une grande diversité de considérations, et qui sont prises elles-mêmes dans des contextes déterminés (p. 300).

17Si la recherche d’une intelligence artificielle « forte », à l’image de l’intelligence humaine et pouvant s’y substituer, est vaine, Daniel Andler donne la parole à d’autres courants de recherche qui prennent pour objet la réalisation d’une intelligence générale artificielle, ou d’une super-intelligence artificielle, voire d’une intelligence artificielle transformatrice de nos sociétés. Les promoteurs de ces mouvements ont la conviction que ce qu’il faut viser est autre chose que ce qui caractérise l’intelligence humaine, avec un objectif différent de ce que l’on attribue à l’intelligence humaine :

il ne s’agit pas de reproduire ou de simuler l’intelligence humaine, mais de concevoir quelque chose dont l’intelligence humaine serait l’une des incarnations ou réalisations (p. 306).

18Cette distinction se justifie, d’une part, par le caractère insaisissable de la notion d’intelligence – voire de la complexité de l’appareil cognitif humain – et, d’autre part, parce que l’intelligence, jusqu’à présent enfermée dans l’évolution de l’espèce humaine, pourrait relever d’une nature plus générale : Andler prend l’exemple de la capacité de voler des oiseaux, puis de l’homme en avion. L’auteur doute toutefois de cette possibilité, ces nouvelles intelligences artificielles puissantes ne pouvant répondre aux critères de versatilité, de fluidité, de conscience et d’autonomie qui caractérisent l’intelligence (voir plus haut). Daniel Andler s’enferme-t-il dans une définition humanoïde (ou anthropocentrée) de l’intelligence ? C’est une question que l’on peut lui poser.

19Il y répond d’ailleurs implicitement : après avoir douté des capacités des SAI présents et à venir à se développer pour créer cette intelligence surpuissante, il écrit :

cette ingéniosité humaine qui semble surpasser les capacités scientifiques de l’intelligence artificielle pourrait après tout, contre toute vraisemblance, accoucher d’une idée révolutionnaire pour créer une intelligence artificielle profondément différente de celle que nous connaissons, reposant sur des mécanismes sans rapport directs avec les procédés intellectuels humains (p. 327-328).

20D’où, alors, l’importance de l’éthique face au développement de l’intelligence artificielle, afin qu’elle ne devienne pas une machine transformatrice de la société des hommes malgré eux : c’est la raison d’être du dernier chapitre de l’ouvrage.

21Même si les SAI (telles que les armes « intelligentes », les voitures « autonomes », les chatbots, etc.) ne sont là que pour résoudre des problèmes circonstanciés,

se pose en vraie grandeur la question de leur capacité à prendre le dessus, à la fois du fait de leur aptitude à résoudre certains Problèmes et de celle de les prendre à leur manière, sous un angle qu’ils ont « choisi », sans s’en référer à leur utilisateur (p. 360).

22Si les chartes et autres dispositifs ne font guère l’unanimité, l’auteur propose de respecter un principe général de modération, visant à réduire les risques et surtout à ne développer des SAI seulement lorsque les bénéfices sont importants.

23Daniel Andler développe la métaphore de l’objet et de son ombre – en renvoyant à l’ombre du cowboy sur les rochers ou sur la vaste plaine – pour illustrer en quoi l’intelligence artificielle diffère de l’intelligence humaine : l’ombre dépend de l’objet projeté ; deux objets différents peuvent se projeter sur une même ombre ; l’ombre ne ressemble pas nécessairement à l’objet projeté (p. 246). L’auteur montre qu’une intelligence semblable à l’intelligence humaine est impossible, car le problème est mal posé : les SAI ne peuvent résoudre que des Problèmes qui leur sont adressés ; or, l’intelligence humaine répond à des Situations qui exigent d’autres qualités, telles que : versatilité, autonomie, conscience, affects, sens commun, etc. L’ouvrage attache beaucoup d’importance au sens commun, c’est-à-dire à la perception et à la maîtrise d’une quantité immense d’informations que l’intelligence artificielle doit organiser et mobiliser quasi instantanément (p. 230), parce qu’elles entrent dans la décision de la personne humaine, y compris en les hiérarchisant selon des éléments eux-aussi innombrables, propres à l’environnement. En d’autres termes, l’intelligence humaine opère des choix, certainement imprévisibles en raison de l’immensité des possibilités, selon des modalités et des critères changeants. Or, les SAI proposent des solutions, organisent le futur, à partir des seules données du passé (cf. le deep learning), ce qui distingue leur intelligence de celle des humains qui ouvrent des possibles non-encore réalisés ou connus.

24Au fond, la principale critique que l’on pourrait adresser à l’ouvrage de Daniel Andler est, selon nous, de ne pas rapprocher le développement de cette technoscience qu’est l’IA – en tant que dispositif comme le dit l’auteur dans le premier chapitre – avec la nature de notre système socioéconomique mondial. Ne faut-il pas questionner la fonction de l’IA – ou de ses résultats, l’intelligence artificielle – dans la reproduction élargie et en profondeur du capitalisme avancé ? Les questionnements de l’intelligence artificielle ne peuvent exclure les interrogations économiques, sociales et politiques. Tout en interrogeant en permanence les rapports de l’intelligence artificielle à l’intelligence humaine, Daniel Andler évince ce qui fait société, les rapports des humains entre eux, comme, par exemple, les rapports de domination et d’exploitation. Au fond, la question pourrait se formuler ainsi : pourquoi une accélération des recherches et des applications de l’intelligence artificielle ?

25En revenant à l’éthique, on ne peut s’interdire de faire le parallèle entre une technologie que l’on cherche à contrôler et un système social – le capitalisme – qui transforme la société humaine, ainsi que son habitacle, la Terre. Quelle chance de succès alors pour l’éthique face au développement de l’intelligence artificielle ? Des éléments de réponse – quelque peu pessimistes – apparaissent dans un autre champ, comme la bioéthique sur les capacités des « sociétés » à maîtriser le développement des sciences et des techniques… On pourrait y ajouter le nucléaire.

26Intelligence artificielle, intelligence humaine : la double énigme incarne une vision stratégique qui fait le point sur l’état de l’intelligence artificielle, car ce livre démystifie en profondeur les promesses de cette dernière, que d’aucuns prennent à la lettre en particulier avec l’avènement des « agents conversationnels ». Lesquels, comme chacun le perçoit déjà, vont encore creuser les écarts linguistiques, culturels et sociaux entre les humains. Autrement dit, marquer des différences et stigmatiser des groupes sociaux un peu plus profondément. C’est-à-dire approfondir la « fracture numérique », en particulier dans l’espace de production et d’échange des biens et des services, ce qui nous intéresse plus particulièrement. Celles et ceux qui maîtriseront le sens et l’usage des réponses de l’intelligence artificielle aux problèmes résolus conserveront un avantage certain : dans l’espace de travail, la division du travail pourrait s’exacerber encore à partir d’un différentiel de compétences entre individus, quant à leur capacité à interpréter correctement – c’est-à-dire avec réflexivité – les réponses des applications de l’intelligence artificielle.