Navigation – Plan du site

AccueilNumérosvol. 37/2LecturesHarry COLLINS (2018), Artifiction...

Lectures

Harry COLLINS (2018), Artifictional Intelligence. Against Humanity’s Surrender to Computers

Cambridge, Polity Press
Julia Velkovska
Référence(s) :

Harry COLLINS (2018), Artifictional Intelligence. Against Humanity’s Surrender to Computers, Cambridge, Polity Press

Texte intégral

1L’ouvrage du sociologue des sciences et des techniques Harry Collins est une contribution majeure à la sociologie de l’intelligence artificielle (IA) qui montre bien l’intérêt de faire exister une perspective solidement ancrée dans les sciences sociales pour penser ses développements récents. C’est précisément cette perspective qui place le livre au cœur des débats dans ce domaine, car l’auteur procède à une critique interne de la technologie du point de vue des connaissances produites par la sociologie sur la nature de l’action, du savoir, de l’intelligence, de la culture, de la société et, en fin de compte, de l’humanité. Cette publication est d’autant plus importante dans le contexte actuel d’effervescence médiatique et de prolifération dans l’espace public de différents types de discours autour de l’IA — commerciaux, politiques ou scientifiques — qui nous mettent en garde contre les dangers de ces technologies ou, au contraire, vantent leurs mérites et les bienfaits qu’elles nous apporteront, sans pour autant être toujours fondés sur des analyses rigoureuses.

  • 1 « croyance dans l’intelligence artificielle », « bulle de l’apprentissage profond », « pollution co (...)
  • 2 le monde de l’intelligence artifictionnelle, disponible à travers les journaux, les livres et les f (...)

2Le livre de Collins est donc bienvenu, car il constitue un bon antidote à cette bulle discursive en nous invitant à adopter un regard critique et réaliste sur l’IA. L’auteur souligne que les narrations sur l’IA — qualifiées de formes idéologiques à travers des formules comme « Artificial Intelligence Belief » (p. 25), « Deep Learning Bubble » (p. 26) ou même de « conversational pollution » 1(p. 178) — participent à un univers particulier, « a world of artifictional intelligence, available through newspapers, books and films »2 (p. 13). Ce mode « artifictionnel » — c’est-à-dire voilant les limites des systèmes — est pourtant la manière dont l’IA est présentée au public aussi bien par ses critiques que par ses défenseurs, qui surestiment tous ses capacités réelles et par là ses conséquences, respectivement négatives ou positives sur la société. Les discours « artifictionnels » peuvent être dangereux, car ils contribuent à la production de croyances non fondées sur les capacités de l’IA. Ils sont par ailleurs soutenus par les grandes entreprises numériques. Cette pointe critique est annoncée dès le sous-titre du livre « Contre la capitulation de l’humanité devant les ordinateurs ». Par exemple, les avancées dans l’apprentissage machine peuvent être mobilisés pour produire l’illusion que les intelligences artificielles actuelles ont résolu le problème crucial de la compréhension du contexte et qu’elles apprennent du contexte social, alors qu’en réalité elles sont entraînées sur des bases de données qui comportent des limites et des biais de construction. Il s’agit d’une confusion et d’une réduction des notions de société, de culture et de contexte à celle de base de données. Collins nous avertit que contrairement à la théorie de la singularité qui prétend que les machines prendront le contrôle sur les humains, le danger ne réside pas dans les machines elles-mêmes, mais dans les croyances et la confiance que nous leur accordons lorsque nous leur attribuons des capacités exagérées et une intelligence proche de celle de l’humain. Plutôt que de souscrire à ces croyances et d’être en posture de « capitulation » (surrender) devant les ordinateurs, Collins plaide pour un scepticisme organisé et éclairé qu’il développe tout au long de l’ouvrage.

3Son argument principal porte sur la compréhension du langage et du contexte comme capacités spécifiquement humaines et non modélisables, liées au fait d’être socialisé dans une langue et une culture, d’être incarné dans la société (socially embedded). Cette thèse a pris progressivement forme au fil des publications précédentes que l’auteur a consacrées à la réflexion sociologique sur l’IA (Collins, 1990, 1998, 2000, 2010 ; Collins et Kush, 1998). Dans le prolongement de ce travail de longue haleine, Collins la développe à la lumière des développements récents de l’IA et de l’apprentissage machine. En résumé, le problème de l’IA est qu’elle réduit l’intelligence humaine au cerveau individuel et vise à reproduire son fonctionnement. Il s’agit selon Collins d’une confusion, car l’intelligence humaine est elle-même incarnée dans la société. Le centre de gravité de la démonstration porte précisément sur ce point : pour que les ordinateurs puissent rassembler à des humains, ils doivent être aussi sensibles au contexte de la société environnante que les humains. Les systèmes actuels en sont très loin. Sur cette base, l’auteur élabore une critique puissante de l’IA et des discours irréalistes sur ses capacités, que ce soit leur versant techno-pessimiste ou techno-optimiste.

4À travers les dix chapitres du livre, Collins construit une démonstration convaincante en examinant successivement un ensemble de questions : les débats autour de l’IA et la nécessité d’une perspective critique (chapitres 1 et 2) ; le langage et les pratiques de réparation (chapitre 3) ; le corps, le contexte, l’expertise interactionnelle et la différence entre actions « polimorphes » (polimorphic actions) et actions « miméomorphes » (mimeomorphic actions) (chapitre 4) ; les différents niveaux de l’IA (chapitre 5) ; l’apprentissage profond basé sur la reconnaissance de modèles (chapitre 6) ; le modèle d’intelligence individuelle (par opposition à sociale) sous-jacent aux réseaux de neurones (chapitre 7) ; l’interaction dans les groupes d’experts et la transmission des connaissances (chapitre 8). Les deux derniers chapitres (9 et 10) tirent les conséquences de la démonstration en aiguisant sa pointe critique et en proposant de développer de nouvelles formes du test de Turing qui permettent de tester le sens commun des ordinateurs en s’inspirant des travaux de Winograd.

5Le cœur de l’argument est concentré dans les chapitres 5 et 6. Dans le chapitre 5, l’auteur montre qu’il serait plus juste de parler des intelligences artificielles et non d’une intelligence artificielle. Il en distingue six niveaux : (1) intelligence prédéfinie (engineered intelligence) ; (2) prothèses asymétriques ; (3) consommateurs-de-culture symétriques ; (4) consommateurs-de-culture défiant-l’humanité ; (5) société autonome du type humain ; (6) société autonome du type alien. Cette typologie repose sur la quantité de réparations asymétriques que font les humains dans leurs interactions avec les IA de chaque catégorie. Une étape décisive du développement de l’IA serait le passage du niveau 2 au niveau 3 dans lequel les machines seraient aussi performantes que les humains dans la réparation, le jeu avec les règles, la création de précédents. Elles seraient également capables d’accomplir des actions « polymorphes » qui nécessitent de comprendre le contexte et la société. En analysant le fonctionnement de l’apprentissage profond, le chapitre 6 montre que malgré les apparences d’objectivité, ces algorithmes sont en fait profondément dépendants de la culture qui a produit les bases de données d’apprentissage. Ils incorporent de façon invisible des schèmes et des catégorisations qui lui sont constitutives. Or, les cultures varient selon leurs façons de catégoriser le monde et de produire des symboles. Pour décrire cette forme d’incorporation culturelle tacite, Collins propose le concept de « supervision implicite » qui complète ceux d’apprentissage supervisé et non supervisé. Selon l’auteur, l’apprentissage non supervisé n’existe pas, car les bases de données sont toujours culturellement structurées :

  • 3 Pour les ordinateurs non supervisés, l’extraction à partir de documents de catégorisations humaines (...)

For unsupervised computers to extract culturally embedded human categorizations from documents is implicit supervision because it depends on features of culture being pre-inserted in the data base. […] This is an example of the entry of top-down pattern recognition in subtle and hidden ways for which we must be continually vigilant if we are to understand the word of the new artificial intelligence (p. 123)3.

  • 4 Sur la distinction entre ces deux catégories d’actions et les conséquences pour l’IA, voir Collins (...)

6Le fil rouge du livre est construit autour de la distinction entre l’intelligence humaine et « l’intelligence » des machines, c’est-à-dire les algorithmes apprenant à travers des méthodes statistiques qui analysent des cas précédents. La « force brute » du calcul des algorithmes fait preuve actuellement d’avancées impressionnantes, mais elle n’a pourtant rien à voir avec le mode de fonctionnement de l’intelligence humaine que l’IA prétend copier. La confusion entre cette « force brute » et les capacités humaines d’action sociale est le principal problème des débats sur l’IA. Selon Collins, l’intelligence humaine est non modélisable, car elle est incarnée dans une société et dans une langue ; elle est collective et non individuelle. Elle se caractérise par un ensemble de capacités que les machines ne possèdent pas : comprendre le contexte dynamique de l’action ; faire sens des situations et des actions ; maîtriser la langue (language fluency) ; réparer des fautes et des malentendus sur la base de la compréhension ; posséder une expertise interactionnelle et un savoir tacite (voir aussi Collins, 2010) ; utiliser les règles et la langue de façon créative ; savoir enfreindre les règles et instaurer celles-ci ; faire preuve d’intuition. Les humains sont également capables de réaliser des actions « polymorphes » (polimorphic), c’est-à-dire que la même action peut être accomplie par une diversité de comportements observables (par exemple, écrire une lettre d’amour). N’ayant pas la capacité d’interpréter le contexte et de jouer avec les règles, les machines ne peuvent, elles, réaliser d’actions « polymorphes ». Elles se limitent aux actions « miméomorphes » (mimeomorphic), toujours effectuées au moyen des mêmes comportements visibles4.

7Collins plaide pour la construction de tests (chapitre 10) capables de vérifier la capacité des machines à copier les humains en faisant preuve de sens commun. Construits grâce à la collaboration de l’informatique et des sciences sociales, ces tests seraient un dispositif non seulement scientifique, mais aussi politique, un dispositif de « désenchantement » pour lutter contre la « capitulation » devant les machines et contre les ailes idéologiques de l’IA qui nient la spécificité de l’humanité et qui prétendent que les humains sont des machines faites de viande (« meat machines »). Les nouvelles avancées de l’IA doivent être systématiquement soumises à ces tests et leurs résultats doivent être rendus publics. Cela permettra à l’ensemble des citoyens de lutter contre « l’anthropomorphisme paresseux » (p. 195).

8Contre les discours idéologiques artifictionnels, Collins nous invite à travailler au « désenchantement » de l’IA à travers des mises à l’épreuve professionnelles et profanes, par les utilisateurs ordinaires, de ses capacités. La diffusion croissante de l’IA dans la société permet le développement des usages réels qui constituent autant de tests « grandeur nature ». Les enquêtes sociologiques empiriques sur ces usages pourront alors participer au dispositif de « désenchantement » de l’IA, tel qu’il est pensé par Collins, à travers la production de connaissances sur les conséquences pratiques de l’IA dans la vie quotidienne.

9La force et l’originalité de l’argumentation, la grande érudition et le style très pédagogique de l’ouvrage en font une lecture indispensable pour penser le phénomène de l’IA dans ses dimensions pratiques, idéologiques, scientifiques, morales et politiques.

Haut de page

Bibliographie

COLLINS, Harry (1990), Artificial Experts: Social Knowledge and Intelligent Machines, Cambridge, MIT Press.

COLLINS, Harry (1998), « Socialness and the undersocialized conception of society », Science, Technology and Human Values, 23(4): 494-516.

COLLINS, Harry (2000), « Les capacités des ordinateurs et leurs limites », Réseaux, 2(100) : 19-37.

COLLINS, Harry (2010), Tacit and Explicit Knowledge, Chicago, University of Chicago Press.

COLLINS, Harry et Martin KUSH (1998), The Shape of Actions: What Humans and Machines Can do, Cambridge, MIT Press.

VELKOVSKA, Julia et Valérie BEAUDOUIN (2014), « Parler aux machines, coproduire un service. Intelligence artificielle et travail du client dans les services vocaux automatisés », dans Emmanuel KESSOUS et Alexandre MALLARD (dir.), La fabrique de la vente, Paris, Presses des Mines, p. 97-128.

Haut de page

Notes

1 « croyance dans l’intelligence artificielle », « bulle de l’apprentissage profond », « pollution conversationnelle » (traductions de l’auteure)

2 le monde de l’intelligence artifictionnelle, disponible à travers les journaux, les livres et les films (traduction de l’auteure).

3 Pour les ordinateurs non supervisés, l’extraction à partir de documents de catégorisations humaines, incarnées dans une culture, constitue une supervision implicite, car elle dépend des caractéristiques de la culture qui a été préalablement introduite dans la base de données. […] C’est un exemple d’entrée en jeu de la reconnaissance du type « top-down » de modèles d’une manière subtile et cachée pour laquelle nous devons être continuellement vigilants si nous voulons comprendre le monde de la nouvelle intelligence artificielle (traduction de l’auteure).

4 Sur la distinction entre ces deux catégories d’actions et les conséquences pour l’IA, voir Collins et Kush (1998) et Collins (1998 et 2000). Pour une discussion critique, voir Velkovska et Beaudouin (2014).

Haut de page

Pour citer cet article

Référence électronique

Julia Velkovska, « Harry COLLINS (2018), Artifictional Intelligence. Against Humanity’s Surrender to Computers »Communication [En ligne], vol. 37/2 | 2020, mis en ligne le 07 septembre 2020, consulté le 25 juin 2021. URL : http://journals.openedition.org/communication/12333 ; DOI : https://doi.org/10.4000/communication.12333

Haut de page

Auteur

Julia Velkovska

Julia Velkovska est sociologue au Département des Sciences Humaines et Sociales (SENSE) à Orange Labs et chercheure associée au Centre d’Étude des Mouvements Sociaux à l’École des Hautes Études en Sciences Sociales, Paris. Courriel : julia.velkovska@orange.com

Articles du même auteur

Haut de page

Droits d’auteur

Licence Creative Commons
Les contenus de la revue Communication sont mis à disposition selon les termes de la Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Pas de Modification 4.0 International.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search