1Alors qu’un énième sommet sur l’intelligence artificielle vient de s’achever à Paris, réunissant pléthores de célébrités de la Tech plaidant pour toujours plus d’investissements dans une technologie présentée comme révolutionnaire, mais d’une voracité extractive considérable (travail, énergie, matériaux) et qui – au moins pour son volet génératif – ne parvient pas à démontrer de larges adoptions sérieuses, il est sans doute légitime de s’interroger sur ce qui s’apparente de plus en plus à une fuite en avant. Comment faire atterrir (Latour, 2017) pour de bon la nébuleuse de l’intelligence artificielle et ses concepts associés de big data, d’apprentissage machine et d’algorithme ? L’ouvrage The Tensions of Algorithmic Thinking: Automation, Intelligence and the Politics of Knowing (ci-après Algorithmic Thinking) de David Beer – professeur de sociologie à l’université de York, Angleterre – pourrait-il nous donner de nouvelles clés de lecture afin de mieux décrypter ce processus a priori délirant ?
2D’emblée, un avertissement s’impose : Algorithmic Thinking n’est pas une étude descriptive basée sur une enquête de terrain détaillée. En ce sens, l’ouvrage ne s’inscrit pas dans la continuité des travaux ethnographiques récents visant à documenter les pratiques concrètes par lesquelles sont conçus, façonnés et diffusés de nouveaux modèles algorithmiques dits d’intelligence artificielle (p. ex., Jaton, 2021 ; Kang, à paraître ; Muhr, 2022). Il s’agit bel et bien ici d’un ouvrage d’étude des médias – plus ou moins assumé comme tel, j’y reviendrai – qui propose une série de réflexions, souvent intéressantes, en s’appuyant sur des énoncés issus d’œuvres de fiction, d’articles de journaux, d’ouvrages de vulgarisation ou encore de publicités en ligne.
3D’où une potentielle déception pour la partie du lectorat de la Revue d’anthropologie des connaissances qui affectionne tout particulièrement les descriptions de pratiques concrètes : rien de cela ici. Et il est d’autant plus important de le préciser, car cette déception potentielle pourrait se muer en frustration tenace face à certains termes qui demeurent abstraits tout au long du livre. C’est notamment le cas de celui de thinking qui n’est jamais clairement défini, ou même de algorithmic, qui oscille entre adjectif qualificatif (une pensée qui est algorithmique) et adjectif relationnel (une pensée qui est en relation avec le domaine de l’algorithmique) et dont on peine à distinguer d’autres termes, très présents eux aussi dans le livre, comme software, artificial intelligence ou automated systems. Prudence donc : la plupart des outils heuristiques de clarification développés au sein des études sociales sur les sciences et les techniques numériques (Alexandre, 2024 ; Lee, à paraître ; Venturini, 2023) ne sont pas mobilisés dans cet ouvrage, ce qui oblige le lectorat familier de cette littérature à fermer les yeux sur certaines omissions problématiques qui auraient sans doute permis d’approfondir davantage les réflexions proposées (comme celles sur l’apprentissage dit « non supervisé », pp. 86-91).
4Pour s’immerger pleinement dans Algorithmic Thinking, il convient donc d’adopter une lecture à la fois curieuse et bienveillante, tout en sachant, à l’occasion, survoler certains passages théoriquement moins étoffés – comme la réflexion sur la cognition humaine (pp. 65-73) qui fait l’impasse sur les travaux révolutionnaires d’Edwin Hutchins (1995a ; 1995b) – et combler soi-même certains non-dits, comme nous le verrons par la suite. Cet effort de lecture, bien réel, trouve néanmoins sa récompense dans une intuition saisissante, qui se déploie au fil des quatre chapitres centraux du texte. Au cœur de cette analyse, une idée forte émerge : la frénésie collective autour de ce que je traduirai par la chose algorithmique (algorithmic thinking) est avant tout – peut-être – nourrie par une double anxiété. La première, d’inspiration romantique, peine à tracer une frontière claire entre humanité et non-humanité. La seconde, d’ordre cognitiviste, lutte à distinguer le connu de l’inconnu. Et ce sont ces deux anxiétés métaphysiques, que Beer désigne sous le terme de tensions, que je m’apprête à résumer dans les sections qui suivent.
5Pour fonder son analyse de média, Beer s’inspire du mythe de la nouvelle vie d’Henri Lefebvre (chapitre 1, pp. 1-4), qui reflète une préoccupation moderne semble-t-il récurrente : la promesse d’une transformation sociale imminente. Et pour Beer, dans le contexte d’une numérisation croissante, ce mythe se transforme en la conviction que les algorithmes, l’automatisation ou l’intelligence artificielle sont sur le point de remodeler fondamentalement le champ social.
6Ce mythe d’une nouvelle vie algorithmique n’est pas sans conséquence ; il est actif et contribue à des prises de conscience, plus ou moins collectives, quant à de nouvelles façons d’être dans le monde. Et parmi ces réalisations, l’une des plus marquantes est l’acceptation progressive d’une condition post-humaine, décrite depuis maintenant plusieurs décennies par des chercheuses comme Katherine Hayles (grande penseuse étatsunienne de la post-modernité, abondamment discutée tout au long du livre). Cette condition nouvelle est notamment incarnée par des interactions constantes avec des systèmes machiniques, et en particulier algorithmiques (pp. 38-39).
7Pourtant, cette réalité incarnée – nourrie par la promesse d’une nouvelle vie algorithmique – se heurte à des cadres conceptuels encore dominants, hérités de la modernité, qui postulent notamment une séparation nette entre les humain·nes et les automates (et donc les algorithmes). Là se situe un des foyers de la première anxiété soulevée par Beer : le choc entre l’incarnation post-humaine et la persistance d’une habitude de pensée moderne – que Beer ne souligne pas explicitement, mais que je qualifie ici rapidement de romantique – qui oppose humanité et automation.
8Cette anxiété face au brouillage post-humaniste des repères romantiques s’exprime indirectement à travers deux positionnements discursifs opposés, que Beer analyse en mobilisant une sémiologie souple. Le premier se manifeste notamment dans les discours entourant la technologie blockchain, abondamment explorée dans le chapitre 2. En s’appuyant sur une série d’énoncés promotionnels de l’entreprise Hdac qui promeut des habitations intelligentes sécurisées par la blockchain (pp. 11-14), et de la plateforme Artory, qui mobilise la blockchain pour tracer l’historique et la provenance d’œuvres d’art (pp. 23-25), Beer met en évidence une rhétorique technologique qui tend à opposer sécurité et intervention humaine. Ces discours, en particulier ceux qui défendent la fiabilité des systèmes blockchain, présentent l’humain comme un facteur de risque, une source d’incertitude à réduire autant que possible. Ici, la non-humanité est érigée en idéal : l’automatisation et la distribution algorithmique des processus sont perçues comme les garantes d’un ordre prétendument plus fiable et sécurisant.
9À l’opposé, d’autres discours mettent en avant des systèmes algorithmiques censés sublimer la collaboration humaine, notamment dans le domaine de la gestion d’actifs, exploré tout au long du chapitre 3. En s’appuyant sur une série d’énoncés promotionnels de l’entreprise BlackRock à propos de sa plateforme de trading et de gestion des risques Aladdin (pp. 43-61), Beer analyse comment ces discours insistent sur une collaboration étroite entre des formes de créativité humaine et de puissance de calcul algorithmique. Ici, l’algorithme n’est plus présenté comme un rempart contre les défaillances humaines, mais bien comme un outil d’application et d’amplification des facultés analytiques et décisionnelles, dépassant ainsi la post-humanité théorisée par Hayles (parmi d’autres). Cette oscillation, souvent brutale, entre la crainte d’une humanité faillible qu’il faudrait maîtriser et la crainte d’une automation débridée qu’il faudrait tempérer alimente une tension fondamentale : la chose algorithmique est tantôt perçue comme une protection contre les défaillances humaines, tantôt comme une passerelle vers une forme de super-humanité, sans qu’un équilibre intermédiaire ne parvienne véritablement à émerger. En somme, lorsqu’elle rencontre l’habitude romantique moderne, la promesse de la nouvelle vie algorithmique contraint à choisir entre non-humanité et super-humanité, créant – semble-t-il – une forme d’anxiété déstabilisatrice.
10Dans les chapitres 4 et 5, Beer poursuit son analyse du mythe de la nouvelle vie algorithmique en explorant les frictions entre la condition post-humaine et un autre cadre conceptuel hérité de la modernité, qui cette fois-ci postule une équivalence entre ce qui est connu et ce qui est vrai (cadre conceptuel que Beer n’explicite pas, mais que je qualifie ici rapidement de cognitiviste). Et ces frictions nourrissent une deuxième anxiété, qui cette fois-ci concerne l’hésitation récurrente entre vérité et mystère.
11Tout comme dans la première partie du livre, Beer analyse cette anxiété via une sémiologie souple, qui lui permet de mettre en lumière deux positionnements discursifs antagoniques. Le premier fait notamment appel à la figure du super-cognizer (que je conserve en anglais, faute de traduction satisfaisante) pour décrire des systèmes algorithmiques récents censés être capables de reconnaître les émotions humaines (pp. 70-76). En se fondant sur le contenu de plusieurs brevets déposés par les entreprises Spotify et Amazon (pp. 79-86), Beer souligne une rhétorique du super-savoir, qui prétend saisir, et donc rendre réel, ce qui se cache supposément dans les profondeurs des corps (humains ou non). Ici, les super-cognizers algorithmiques sont présentés comme des instruments d’extension des limites du connaissable, du réel et du vrai.
12Mais à l’opposé, d’autres discours mettent en avant l’opacité de nombreux systèmes algorithmiques actuels, en particulier ceux reposant sur l’apprentissage profond (deep learning). Cette thématique du non-savoir – non-knowledge, que Beer puise dans les travaux Georges Bataille (pp. 100-106) – alimente des incertitudes quant au fondement même des processus de super-savoir, puisque les super-cognizers deviennent constitués de composantes opaques, voire carrément mystiques (pp. 115-117). Cette oscillation, souvent brutale, entre super-savoir et non-savoir – soutenue par une métaphysique cognitiviste qui amalgame connaissance et réalité – pour qualifier les attributs des mêmes systèmes algorithmiques alimente, là aussi, une tension fondamentale : la chose algorithmique est perçue à la fois comme le moyen de repousser les limites du connaissable, tout en étant le produit d’un mystère insondable. En somme, lorsqu’elle rencontre l’habitude moderne cognitiviste, la nouvelle vie algorithmique force à choisir entre super-savoir ou non-savoir, créant une deuxième forme d’anxiété déstabilisatrice : désorientation, déroutement, désarroi.
13Je ne traiterais pas ici de l’argument conclusif du livre concernant la possible existence d’une volonté d’automatiser, entendue comme mutation récente de la volonté de savoir foucaldienne (pp. 130-132). Je préfère conclure en revenant sur la forme même de l’exercice proposé par Beer, dont la réelle fécondité pourrait, me semble-t-il, gagner en ampleur moyennant le relâchement de certaines contraintes, notamment d’exposition.
14La plupart des analyses proposées dans Algorithmic Thinking se basent sur des énoncés médiatiques émanant de sites internet promotionnels, de publicités de produits numériques, ou encore de littératures de vulgarisation. Et même si ça n’est pas toujours explicite dans le texte, Beer voit en ces discours des messages à même d’être interprétés, ou – pour mobiliser un langage plus technique – des modes de signification à même d’être décryptés. En ce sens, il s’agit bien ici d’une entreprise sémiologique, mais qui ne dit pas toujours son nom.
15Ceci soulève la question du statut des nombreuses sections du livre consacrées à la description du fonctionnement de certains systèmes algorithmiques – qu’il s’agisse de la blockchain (pp. 15-20), de l’apprentissage non supervisé (pp. 81-91) ou encore de l’apprentissage profond et des réseaux de neurones (pp. 115-122). Même si ces passages ne sont pas inintéressants, ils paraissent en décalage avec l’écologie générale du texte, ne serait-ce que parce que les discours sur lesquels ils s’appuient sont eux-mêmes lourdement chargés en significations, qui mériteraient, elles aussi, d’être décryptées. En somme, ce qui pourrait sembler essentiel dans une approche de vulgarisation (par exemple dans un cadre scolaire) apparaît ici superflu – voire contradictoire – dans une perspective sémiologique, qui vise avant tout l’analyse des significations.
16Ce penchant, hélas habituel, pour la vulgarisation non problématisée du fonctionnement interne des systèmes algorithmiques s’avère d’autant plus regrettable qu’il semble freiner le texte dans son élan, l’empêchant de se lancer pleinement dans sa belle entreprise de sémiologie de la chose algorithmique. Et j’aime à imaginer ce qu’Algorithmic Thinking aurait pu devenir s’il avait par exemple embrassé une approche sémiotique à la manière de Charles Sanders Peirce (comme l’a tentée Paul Kockelman en 2017) ou s’il s’était aventuré sur la voie d’une mythologie à la manière de Roland Barthes (2014 [1957]) – entreprise qui reste décidément à mener. Plus largement, là réside peut-être l’une des clés d’une véritable libération des études média de la chose algorithmique, qui mettraient de côté les éléments relatifs à la description du fonctionnement des algorithmes – descriptions forcément idéalisées, car déconnectées des pratiques concrètes – pour mieux se consacrer à l’analyse des discours qui les portent. Car si les systèmes algorithmiques se trompent assurément (parfois) sur ce qu’ils détectent ou prédisent, ils disent assurément vrai sur l’époque qui les énonce.