- 1 « Ensemble d’idées et de valeurs qui incarne un objet de la culture dans une société tout en se tra (...)
1Le terme d’Intelligence Artificielle, scientifiquement controversé du fait de la diversité de l’éventail des technologies impliquées autant que d’un scepticisme parfois partagé quant au qualificatif « d’intelligence », conserve en revanche une valeur usuelle ou publicitaire. Plus qu’une réalité technique, l’IA désigne aujourd’hui un dispositif naturalisé en même temps qu’un « Être culturel1 » du point de vue de sa réception. Par cette caractérisation duale, nous entendons tout d’abord souligner l’objectivation de l’IA comme dispositif qui nie à la fois l’intentionnalité de son design, et le facteur humain de sa fabrication. Nous entendons aussi envisager l’IA comme cet objet absorbé, assimilé et réapproprié via le prisme des représentations culturelles et des usages détournés qui offre des prises aux utilisateurs tout en construisant une altérité.
- 2 Ibid., p. 20.
- 3 Eugène Favier-Baron, « l’IA entre naturalisation et artificialisation : de l’illusion structurelle (...)
- 4 Yannick Meneceur, « Analyse des principaux cadres supranationaux de régulation de l’intelligence ar (...)
2C’est pour cela qu’il convient d’investir l’empire de ce qu’Yves Jeanneret qualifiait de « trivialité » et que les sciences humaines tendent trop souvent à négliger. Cette trivialité n’a rien de dégradant pour l’auteur et se décline au contraire en un niveau de partage, de transformation et d’appropriation « des objets et des savoirs au sein d’un espace social hétérogène2 ». À l’ère des technologies de l’information et de la communication (TIC), cette trivialité fait l’objet d’un appareillage qui en fait à la fois un terrain d’expérimentation, de permission et de contrainte favorable à analyser afin de comprendre les logiques contemporaines de pouvoir. Or cet usage métonymique ne se limite justement pas à la sphère du trivial. En effet, du point de vue des sciences sociales, la constitution d’un objet d’étude qui embrasse l’IA en tant que phénomène social implique également un tel processus. L’IA constitue ainsi « un ensemble sociotechnique qui excède la définition purement mathématique ou d’ingénierie. L’IA recoupe alors à la fois les réseaux informatiques dans lesquels s’insèrent ces algorithmes, les personnes qui conçoivent ou exploitent les données, et les institutions ou entreprises qui fournissent ces services et font autorité pour la production de connaissances en la matière »3. L’adoption par l’OCDE puis par la Commission européenne du terme « système d’IA » permet d’encadrer un périmètre large d’acteurs, de technologies, d’organisations – bref, les nombreuses médiations qui traversent une technologie finalisée, qui prétend elle-même à une forme d’intentionnalité4.
- 5 Evgeny Morozov, « The Problem with Artificial Intelligence? It’s Neither Artificial nor Intelligent (...)
3Cette redéfinition est due au peu de valeur analytique que charrie le terme d’Intelligence Artificielle, puisque, comme le souligne Evgeny Morozov, celle-ci n’est « ni artificielle, ni intelligente »5. En effet, l’artificialité est entendue ici comme équivalent technologique capable de simuler les fonctions cognitives humaines. Or cet « autre » est en réalité largement tributaire d’un travail humain dissimulé. C’est-à-dire que ce qui est introduit au public comme produit achevé qui condenserait des capacités cognitives autonomes s’apparenterait plutôt à la captation d’une œuvre collective, de mise en commun de la part de programmeurs, tâcherons, analystes, ingénieurs, réifié en un dispositif auquel est conféré une autonomie de manière ad hoc. Cette altérité correspond aussi bien à une réalité technique incontestable (d’origine humaine), qu’à un discours publicitaire et scientifique vulgarisateur ainsi qu’à la façon dont sa réception populaire en fait cet « Être culturel » bardé de représentations reconstituant a posteriori une cohérence parfois usurpée.
4Cette usurpation n’est pas seulement le fait de la réification d’un travail mais aussi d’un ensemble de croyances doctrinales à propos de l’intelligence, de choix de design ou encore de raffinages et d’interprétations de données chosifiés en une « réalité » incarnée par l’IA. Or pour créer un équivalent technologique à l’intelligence, encore faut-il déterminer de quoi elle retourne. L’histoire de l’Intelligence Artificielle en tant que projet issu de la conférence de Dartmouth de 1956, et avant cela, de la cybernétique, témoigne d’un long affrontement intellectuel autour de la définition de la cognition et de l’intelligence que la naturalisation de l’IA a fait oublier. Celle-ci a été constamment remodelée au gré des débats scientifiques et des avancées techniques au point parfois de se demander si la définition de l’intelligence n’était pas en train de se subordonner à des exigences industrielles et à des schémas publicitaires. De sorte que les secteurs comme la reconnaissance faciale ou la reconnaissance d’objets, où des progrès notables furent effectués, ont été reconnus et décrétés comme parangons de l’intelligence, au détriment d’autres pans de la cognition plus mystérieux ou difficiles à reproduire (conscience réflexive, états mentaux et représentationnels, etc.). Ce phénomène procède en réalité d’une valorisation de certaines caractéristiques arbitraires que l’on croit déceler dans la cognition, et qui sont valorisées d’un point de vue logistique, industriel ou calculatoire. Mentionnons également à la fois la provenance et la finalité militaires qui irriguent l’histoire du développement de l’IA depuis la période de la cybernétique et de la guerre froide. En effet, comme le rappelle Evgeny Morozov, « l’une des premières utilisations militaires des réseaux neuronaux – la technologie à l’origine de ChatGPT – a consisté à repérer des navires sur des photographies aériennes6 ».
- 7 Grégoire Chamayou, Théorie du drone, Paris, La fabrique éditions, 2013.
- 8 Jean Baudrillard, Simulacres et simulations, Paris, Galilée, 1981, p. 10.
- 9 Désigne chez Heidegger la façon dont la modalité technique moderne procède d’un « arraisonnement » (...)
- 10 Algorithme qui détermine l’agencement des sites web dans les moteurs de recherche afin d’optimiser (...)
5Grégoire Chamayou a démontré la façon dont la reconnaissance militaire reconvertie en des logiques civiles de « pattern of life7 », soit la reconstitution d’un schème de trajets quotidiens duquel une déviance quelconque sera perçue comme suspecte, pouvait se retrouver dans des domaines du ciblage marketing ou encore de la police. Ce genre d’objectivation cartographique résulte en un appauvrissement d’un réel substitué au schème représentationnel, au simulacre que décrit Baudrillard et qui fait que « le territoire ne précède plus la carte, ni ne lui survit. C’est désormais la carte qui précède le territoire – précession des simulacres –, c’est elle qui engendre le territoire8 ». De la même façon que la carte est pensée en fonction d’un aménagement anthropocentré, l’Intelligence Artificielle constitue un « arraisonnement9 » de l’intelligence « naturelle » au profit d’une mobilisation industrielle, militaire, économique, et recèle en cela toutes les déformations et marques d’intentionnalité d’un tel dessein. Par exemple, le « SEO (Search Engine Optimization)10 », le correcteur orthographique et désormais le « bot » conversationnel ChatGPT procèdent d’une métalinguistique qui oriente et technicise le langage vers une vocation prédictive et informationnelle qui ne recouvre pas la variété et la polysémie du langage naturel.
- 11 Jean-Pierre Dupuy, Aux origines des sciences cognitives, Paris, La Découverte/Poche, 1994.
- 12 Georges Canguilhem, « Le concept d’idéologie scientifique », dans « Psychanalyses et rationalisme »(...)
6Suivant la dichotomie entre modélisation usuelle et scientifique11, répliquer l’intelligence humaine par l’IA revient en réalité à répliquer une compréhension non seulement limitée mais orientée de l’intelligence humaine. L’IA est une simulation au sens d’une dégradation, d’un éloignement face au réel pour le rendre à la fois plus compréhensible et manipulable. Ce résultat schématique sert de medium pour comprendre l’intelligence, medium que l’on finit par imiter directement, au sens cette fois d’un modèle platonicien surplombant. Cet éloignement au carré à l’égard d’un référent réel confère une autonomisation de la simulation qui risque à terme de se suffire à elle-même. Chez Canguilhem, la « dégradation » d’une science en idéologie passe par les médiations dont celle de la pédagogie ; lorsqu’une technique se fait « communication de résultats et non – sauf exception – réactivation des circonstances de la recherche qui les a obtenus 12». Les médiations successives entre l’IA et son référent naturel, scientifiques (modèle), publicitaires, pédagogiques (vulgarisation), la façon dont les utilisateurs reçoivent et font de l’IA un objet de culture, constituent autant d’altérations qui confèrent à l’IA une consistance plus forte encore que celle mise en avant par ses prétentions techniques à l’autonomie.
- 13 Warren S. McCulloch et Walter Pitts, « A Logical Calculus of the Ideas Immanent in Nervous Activity (...)
- 14 John Von Neumann, The Computer and the Brain, Yale Libri, 1999.
7De plus, la projection de standards et de contraintes humaines, à la fois en termes de cognition, d’épistémologie comme de socialisation, entre en tension avec l’échelle sans cesse grandissante de la capacité computationnelle des IA ainsi que de leur vitesse d’apprentissage. Les normes cognitives, épistémologiques et sociales humaines sont à échelle humaine. Il est contradictoire d’exiger, suivant une compréhension dualiste sans doute caduque de la rationalité humaine, à la fois que l’Intelligence Artificielle disrupte les affres représentationnelles de la cognition humaine pour décupler ses capacités de raisonnement, et qu’elle les astreigne à une sensibilité et à un environnement symbolique, culturel, normatif qui émerge de ces mêmes représentations. Cette tension entre l’impératif de puissance industrielle des systèmes d’IA et de conformité à une normativité sociale (pensons aux biais discriminatoires) tire son origine de modélisations arbitraires et instrumentales des réseaux de neurones, à commencer par le modèle cybernétique de l’automate à seuil chez McCulloch et Pitts. Ce schéma neuronal émet l’hypothèse qu’il est possible de formaliser les opérations booléennes « And », « Or » et « Not », par le fonctionnement numérique du neurone qui se déclenche selon un système de seuil au-delà duquel celui-ci opère une « mise à feu13 ». Autre cybernéticien de renom, Von Neumann s’attache à contester la pertinence de cette formalisation du neurone par idéalisation logique, qui ne se fonde sur aucune réalité organique bornant l’activité des neurones comme le niveau de fatigue des cellules neuronales. Ces opérations reflètent une compréhension partiale et partielle qui favorise certaines caractéristiques cognitives de manière intéressée14.
- 15 Le connexionnisme se propose de retranscrire les états et processus mentaux en s’inspirant de l’act (...)
8McCulloch et Pitts sont victimes de l’illusion fonctionnaliste qui ne fait pas cas de la matérialité ni de la forme du medium employé, pensant que l’on peut idéaliser et abstraire une fonctionnalité cognitive en montrant qu’une idée peut s’exprimer de façon inchangée depuis n’importe quel support. Or pour Von Neumann, prouver qu’un modèle se réalise au sein d’une machine logique n’a rien à voir avec une quelconque fidélité à la réalité du fonctionnement cognitif. L’obtention de deux résultats identiques par corrélation ne renseigne en rien sur une similitude dans le processus causal. La focalisation de McCulloch et Pitts sur la « mise à feu », seul signal intelligible qui nous parvient de l’action du neurone, n’est qu’une partie résiduelle d’un processus plus large et complexe. En outre, ce tir neuronal n’est que la manifestation numérique résultant d’une disposition déterminante de sa base analogique. Ce défaut d’interprétation attribue à ce résultat parcellaire et momentané une existence et une prééminence qui réduit l’activité neuronale à des signaux électriques, négligeant sa base neurophysiologique. Cela vaut pour l’approche verticale de l’IA symbolique comme de l’approche « bottom-up » du connexionnisme qui compresse les enjeux socio-culturels de l’intelligence ainsi réduits à la problématique émergentiste du saut de complexité au sein de l’activité neuronale15.
- 16 L’IA faible reproduit un comportement intelligent dans un domaine précis sans comprendre ce comport (...)
- 17 Se dit d’une IA qui reproduirait l’intégralité de l’intelligence humaine.
9Nous pourrions tout à fait contourner ce problème en affirmant qu’il ne s’agit là que d’une affaire d’imaginaire populaire dont les concepteurs seraient exempts. Ceux-ci seraient bien au fait de n’aboutir là qu’à du « machine learning » et à de l’IA « faible16 » tout au plus, de sorte que la question d’aboutir à une intelligence réelle ne se poserait plus si elle s’était jamais posée. Or, force est de constater que les concepteurs, d’abord du fait d’un morcellement et d’une hyper-spécialisation des tâches, n’ont pas toujours de prises réelles sur le processus algorithmique dans sa globalité, mais ne sont pas non plus tout à fait immunisés face à ces standards industriels ou publicitaires qui resurgissent aussi toujours sur leurs propres attentes. La distinction entre usagers et concepteurs n’est jamais si radicale ; en effet, ces derniers peuvent estimer que si l’objectif d’intelligence « forte17 » ne relève pas d’une réalité actuelle, elle n’est, à terme, ni inatteignable, ni indésirable. En outre, quand bien même du point de vue des concepteurs l’approche mimétique et scientifique de l’Intelligence Artificielle serait révolue, le problème provient justement du fait qu’elle continue, pour des raisons commerciales évidentes, à être médiatisée comme le résultat d’une intelligence réelle. Or le risque encouru est celui de la propagation d’une croyance selon laquelle l’intelligence se réduirait aux standards performés par l’action de l’IA.
- 18 Forme de calcul utilitariste qui sert de base à la théorie de la décision et qui établit la somme e (...)
10Certes l’avènement de l’apprentissage profond et les progrès effectués en termes de capacité des systèmes d’IA cette dernière décennie viennent justement du fait qu’elle n’imite plus totalement le raisonnement humain. En effet, le but est bien de se détacher des limitations organiques du corps et d’extraire du prisme affectif et représentationnel une nature calculatoire et quantifiable que l’on peut alors décupler hors de l’enveloppe qui briderait cette capacité. Cet isolement d’une nature idéalisée se heurte aux problématiques du développement d’autres facettes de l’intelligence que l’on tente de réintroduire a posteriori via l’implémentation de modèles éthiques, souvent conséquentialistes car plus facile à formaliser (nous renvoyant au calcul hédoniste18). Nous pourrions même gager que McCulloch et Pitts n’avaient pas la naïveté de prétendre modéliser de manière exhaustive le fonctionnement neuronal, mais tout au plus d’abstraire une fonction neuronale montrant qu’elle pouvait se réaliser sur un autre support. Or c’est là le succès réel de l’IA jusqu’ici, celui d’une IA « faible » qui se décline en l’automatisation de tâches précises et découpées qui sont aujourd’hui réalisées de façon plus performante par exemple dans le domaine de la reconnaissance faciale (bien que nécessitant un processus d’apprentissage très coûteux en termes de données). D’ailleurs, le connexionnisme émerge sur la base d’une critique de l’approche symbolique et séquentielle de l’information en IA en ce qu’elle ne correspondrait pas à une réalité beaucoup plus simultanée de l’intelligence humaine.
11Néanmoins, si dorénavant cette simultanéité de traitement de l’information a atteint un stade surhumain, l’intelligence humaine ne semble faire office de comparaison que sur un mode de capacité de stockage, de rapidité de calcul et autant de capacités quantifiables et instrumentales qui risquent de réduire notre conception de l’intelligence. Le référent « naturel » de l’intelligence n’apparaît ici qu’en tant qu’il signale un écart quantitatif de performance avec l’IA. De plus, rien ne semble indiquer à ce jour que des progrès même fulgurants au sein de capacités cognitives isolées ne soient en mesure de faire émerger une quelconque intelligence globale. Il suffit pour cela de comparer nos capacités cognitives à celles des animaux ; nos capacités motrices sont inférieures à celles des pieuvres, certains corvidés semblent avoir des performances supérieures aux nôtres en matière de mémoire de localisation à long terme tandis que les chimpanzés démontrent certaines supériorités de mémoire à court terme et de nombreuses espèces nous dépassent en matière de reconnaissance des visages au sein de leur propre espèce pour n’en citer que quelques-unes. Pour autant, la cognition animale n’est pas considérée comme une menace ni comme une intelligence globale au sens qui est conféré à l’être humain. L’appréhension d’une altérité forte qui émergerait de la simulation de tâches cognitives éparpillées ne tient qu’en raison de la confusion savamment entretenue que désigne le label « d’Intelligence Artificielle ».
12En conservant le spectre d’une intelligence globale, l’image tronquée d’intelligence que nous renvoie l’IA risque de resurgir sur nos attentes de l’intelligence en général. Le discours ambiant autour de l’IA tend à naturaliser et fétichiser son action, c’est-à-dire à substituer les tâches cognitives humaines qui rendent possible le pouvoir de l’IA par un pouvoir qui émanerait de l’objet même. Or s’il est vrai que l’Intelligence Artificielle est capable d’une certaine forme d’autonomisation et d’improvisation, elle reste à ce jour largement redevable à une main-d’œuvre humaine à tous les niveaux. Ce souci d’auto-légitimation politique par une auto-suffisance technique supposée permet de mieux croire en l’altérité à laquelle l’IA est censée nous renvoyer. Plus l’IA est rendue étrangère à l’action humaine ainsi niée, plus elle est un moyen de naturaliser des domaines comme l’économie ou la politique, d’où son déploiement dans le secteur du « trading algorithmique » qui confère au courtage et à la finance une apparence d’objectivité et d’auto-régulation. Ce voile dissuade par là même toute nécessité de régulation manuelle ou de suspicion de partialité de la part d’un tel « outil ». L’Intelligence Artificielle procède d’une double action à la fois naturalisante et dépolitisante. D’abord parce que l’IA a besoin de nier sa propre artificialité pour se légitimer. Ensuite parce que cette apparente neutralisation du facteur humain lui confère un semblant d’objectivité dans les domaines où elle est déployée. Cet habillage purge apparemment l’IA de toute considération politique ou délibérative désormais reléguée à la seule échelle de la rationalité humaine. L’Intelligence Artificielle permet en cela de camoufler une intentionnalité et des choix politiques dans l’horizon d’un « progrès » linéaire.
- 19 Notion qui vise à qualifier ce qui relèverait selon Adam Smith d’un phénomène spontané d’auto-régul (...)
- 20 Facebook (aujourd’hui Meta) a été auditionné en 2017 au Congrès américain suite à des suspicions de (...)
13La subjugation que peut produire l’IA, tantôt par projection anthropomorphique, tantôt par la croyance d’avoir affaire à une entité autonome, rappelle les « abstractions réelles » décrites par Marx. Celles-ci informent et dominent une certaine relation, dictent une façon dont nous nous rapportons aux choses. Ce sont des abstractions qui nous gouvernent en exerçant un pouvoir de fascination. Il s’agit des mêmes rouages qui fondent la croyance collective en un marché « autorégulé » dont l’artificialité est niée et comblée de manière ad hoc par des abstractions réelles, telle « la main invisible19 ». Tout comme le rêve de naturalisation de l’esprit remonte à la psychologie scientifique du xviiie siècle, il faut remonter aux physiocrates pour trouver l’origine de cette vocation de naturalisation de l’économie, faisant exister le marché indépendamment de toute convention humaine au profit de lois « naturelles ». De même, les « fils » d’actualités des réseaux sociaux ne fonctionnent pas comme le prétend Mark Zuckerberg devant le Congrès américain20 par la simple agrégation des volontés et des interactions d’internautes mais par tout un travail d’optimisation de fond à la fois automatique par le biais des algorithmes et manuel par un « nettoyage » silencieux d’arrière-plan. L’Intelligence Artificielle agit comme cet architecte discret dont l’action se confond dans les interactions d’utilisateurs, et dans le travail d’auxiliaires humains.
- 21 En 1980, Searle propose le fameux argument dit de la « chambre chinoise » pour réfuter l’idée que l (...)
14C’est par un biais corrélationniste alimentant l’épistémologie des données massives que l’IA existe en dehors de ses conditions de fabrication, assimilant une adéquation de résultat à une identité de nature, comme le dénonçait déjà Searle en son temps21. Cette logique corrélationniste des algorithmes intelligents opère, notamment dans son déploiement administratif, un brouillage des normes axiologiques, idéologiques et épistémologiques que Thierry Ménissier choisit de résumer ainsi :
- 22 Thierry Ménissier, « Jusqu’où l’institution peut-elle être augmentée ? Pour une éthique publique de (...)
Elle [l’IA] entretient également une confusion entre la logique de la performance technique et la doctrine de l’État, à partir de la ressemblance entre des notions pourtant irréductibles les unes aux autres, par exemple entre fiabilité et confiance, entre généralité et universalité, entre objectivité et impartialité22.
- 23 Contrairement au caractère indiciel de la trace qui témoigne d’un passé révolu, la donnée exige un (...)
L’action naturalisante de l’IA est donc aussi celle de l’expression d’un biais corrélationniste sous couvert de rationalité « pure » qui soustrait cette action à la scrutation démocratique et qui fait d’une approche probabiliste un équivalent du « réel ». Cette contraction des normes obéit à un idéal d’efficacité censé clore la question du politique en tant que règne du choix et de l’arbitraire, au profit d’une approche « scientifique » univoque. En effet, s’il n’y a qu’une façon optimale de gouverner, que reste-t-il à discuter ? L’IA réalise ainsi le rêve d’une naturalisation des sciences sociales, du politique et de l’économie. Or cette interprétation bien particulière de l’intelligence se trouve réifiée en pratique dans le programme d’IA dont l’artificialité a paradoxalement pour but de prouver la naturalité de l’humain. L’épistémologie de l’Intelligence Artificielle comme discipline de l’informatique et du calcul algorithmique est au service de cette naturalisation à la fois de l’humain et des sciences humaines. L’IA est au service d’une volonté d’augmentation de la productivité et d’accélération des processus communicationnels et logistiques qui requiert une automatisation ainsi qu’une vitesse de circulation marchande. En ce sens, les données qui alimentent l’apprentissage des systèmes d’IA ne sont pas neutres mais sont créées et informées en amont ; il existe toute une genèse de la donnée. Ce travail de la donnée est néanmoins nié par le mythe de la donnée brute et par le nettoyage de la donnée au profit d’un « présentisme »23, d’une manipulabilité qui renforce l’illusion qu’il s’agirait là d’un fragment naturel issu du « data mining », d’une donnée qui se trouverait dans la nature.
- 24 Antonio A. Casilli, En attendant les robots. Enquête sur le travail du clic, Paris, Seuil, 2019.
15La focalisation sur le danger de l’Intelligence Artificielle ainsi essentialisée concourt à octroyer une autonomie à l’IA pris comme phénomène extérieur à nous, qui s’abat du ciel de manière inéluctable. En même temps que de naturaliser le « phénomène » d’IA comme réalité qui ne se négocie pas, ce spectre d’attitudes qui va du vertige dystopique au solutionnisme des plus naïfs, a pour effet de disculper les plateformes et leurs départements de recherche dans le développement et le déploiement de tels dispositifs qui sont pourtant dépositaires de velléités commerciales. En outre, le fait de prophétiser une concurrence toujours à venir entre les IA et les travailleurs a également des effets performatifs et auto-réalisateurs parce qu’ils tendent à dresser des équivalences humain-machines en termes de qualités et compétences de travail, au profit de l’automatisation et de la stabilisation que permet l’IA. La robotisation des tâches cognitives est préférée à l’inconstance de l’esprit humain au risque d’appauvrir notre conception de l’intelligence en légitimant ces systèmes comme relevant du même type d’intelligence que celui des humains. Le paradoxe est total puisque la disparition du facteur humain de certaines tâches cognitives est pronostiqué du fait de l’avènement de systèmes d’IA dont les prouesses cognitives sont elles-mêmes largement redevables à un travail humain, qui va de la conception à l’entretien, au raffinage et au filtrage des données. L’avènement d’une nouvelle génération de bots conversationnels réalisant des tâches cognitives opère un renversement spectaculaire par rapport aux promesses initiales de l’IA. Loin de délester le travailleur des tâches les plus rébarbatives pour ne lui laisser que la noble créativité débridée, l’Intelligence Artificielle jette son dévolu sur ces tâches hautement cognitives. Or cela nécessite une nouvelle division industrielle qui implique des travaux aliénants et répétitifs pour des centaines de milliers de tâcherons24, dont l’intelligence réelle est mise au diapason d’une conception robotique et appauvrie de l’activité cognitive, au service d’un résultat final attribué à la machine et à travers elle, à sa plateforme propriétaire.
16Annoncer que l’Intelligence Artificielle va remplacer l’intelligence humaine, c’est en même temps asseoir l’idée d’une assimilation de l’IA en tant qu’elle est dépositaire d’une conception située de l’intelligence, avec le concept même d’intelligence réelle. En cela, le projet d’Intelligence Artificielle qui émerge avec la conférence de Dartmouth en 1956 constitue une victoire idéologique de l’entreprise congruente avec les sciences cognitives de naturalisation de l’esprit. L’Intelligence Artificielle réalise une hégémonie scientifique d’une approche quantitative et céphalocentrique de l’intelligence, de la même manière qu’Anaxagore faisait du cerveau le premier organe qui se développait au cours de l’embryogenèse humaine. Le projet des sciences cognitives qui consiste à créer une science naturelle du mental puise son origine dans la psychologie scientifique du xviiie siècle tout en y ajoutant l’ambition d’exhaustivité à l’égard de la totalité de l’activité de l’esprit. Il s’agit de conférer une base matérialiste et de rendre compte en des termes physicalistes des états mentaux, représentationnels ainsi que de l’émergence de la conscience. Le tout sans renoncer à l’individualisme méthodologique qui fait de l’organisme humain le siège de la pensée et le point de départ de tout phénomène de socialisation. Les sciences cognitives instaurent une emphase particulière sur l’approche quantitative et statistique de l’intelligence qui doit se rendre mesurable par l’observation de régularités (« pattern »). Le projet de naturalisation de l’esprit qu’elles portent aux nues vise à éclaircir dans les termes de la théorie de l’évolution le rôle du cerveau en se fondant sur les problèmes qu’il a dû et su résoudre au cours de son évolution. Or, cette approche céphalocentrée réduit le phénomène d’intelligence à un phénomène naturel, ramène la sémantique au comportement, réduit l’esprit au cerveau et le langage au signal, jusqu’à, dans ses formes les plus radicales, nier toute dimension interactionnelle, externaliste de l’intelligence comme phénomène qui émerge à un niveau social.
- 25 Désigne le point faible de l’approche du « deep learning » dont l’efficacité a pour contrecoup l’im (...)
- 26 Antoinette Rouvroy et Thomas Berns, « Gouvernementalité algorithmique et perspectives d’émancipatio (...)
- 27 Viktor Mayer-Schonberger et Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, (...)
17Nous avons tenté d’identifier certaines des illusions majeures colportées par le déploiement des IA. L’illusion internaliste tout d’abord, qui se manifeste par le passage de l’imitation du « réel » à l’imitation d’un modèle, du neurone réel au neurone formel et qui s’adresse notamment à l’approche symbolique de l’IA. Puis l’illusion externaliste d’un individualisme méthodologique constituant le point de départ de l’émergence du phénomène d’intelligence, préalable à tout phénomène de socialisation, qui concerne en premier lieu le paradigme connexionniste. Ajoutons à cela l’illusion corrélationniste qui subordonne le processus au résultat obtenu, processus qui derrière l’opacité de la « boîte noire »25 algorithmique renferme une omniprésence humaine aussi bien dans les choix et orientations de design que dans l’effort d’apprentissage. Cette dissimulation du facteur humain cache un besoin de « naturaliser » les algorithmes intelligents. Le prestige de ces dispositifs ainsi naturalisés se fait le prétexte à gouverner par le « réel » ; non plus en posant des hypothèses a priori26 mais en « laissant les données s’exprimer »27. Cette conception a pour conséquence de figer avec la normativité de l’évidence ce qui relève pourtant de rapports sociaux contingents et conflictuels.
- 28 Inspiré des travaux du biologiste chilien Francisco Varela, l’approche de la cognition incarnée con (...)
- 29 Evgeny Morozov, op. cit.
18Dans son ambition scientifique, l’IA réalise une interprétation naturaliste de l’intelligence. Dans son affectation industrielle, elle réalise des objectifs de performances calculatoires, d’automatisation et de prédiction, soit autant de caractéristiques arbitrairement extraites d’une modélisation instrumentale de l’intelligence. Ces deux versants se rejoignent dans leur approche quantitative qui permet de stabiliser, simuler, implémenter un simulacre d’intelligence ainsi rendu calculable. La recherche d’une telle stabilisation va à l’encontre même de la réalité mouvante, réactive, située, de la cognition dans son incarnation organique (embodied cognition28). L’intelligence humaine dépasse la simple unidimensionnalité d’une logique statique et intemporelle propre au raisonnement formel et fait preuve également d’une rationalité contextuelle, adaptative et dynamique adossée à une dimension affective. Comme nous l’avons vu, le qualificatif d’Intelligence Artificielle ne renvoie guère à une réalité scientifique. Son maintien au-delà d’une certaine commodité usuelle ne peut que servir les intérêts hégémoniques « d’un rationalisme hautement cognitif et froid » déjà assimilé par de « nombreux acteurs de la Silicon Valley, qui s’emploient à reconstruire le monde sur la base de cette croyance29 ». En cela, l’Intelligence Artificielle en simulacre d’intelligence fait preuve d’une discursivité performative sur nos représentations à la fois populaires, culturelles, scientifiques, industrielles, de l’intelligence en général. Ainsi, le risque que fait planer le concept d’Intelligence Artificielle est de nous confiner dans cette idée que l’intelligence se restreint aux performances calculatoires auxquelles les dispositifs d’IA nous renvoient constamment, qui sont mises au service de la production industrielle et de nouveaux modes de gouvernement.