Le rapport magique à l’Intelligence Artificielle, ou comment vivre avec l’aliénation technique
Résumés
Cette contribution considère le thème de l’aliénation technique dans la philosophique politique depuis l’enjeu renouvelé de l’Intelligence Artificielle. Dans un premier temps, il s’agit de proposer une clarification conceptuelle sur ce qu’il faut entendre par « aliénation technique » et pourquoi celle-ci semble insister autant comme leitmotiv de la pensée politique. Il s’agit notamment de suivre une perspective réaliste à partir de laquelle l’aliénation technique serait à la fois une condition et une limite indépassable et constitutive de nos processus de subjectivation. Ensuite, il s’agit de problématiser la question du rapport magique à la technique en montrant que la modernité, plutôt que d’avoir chassé celui-ci, l’a en réalité refoulé dans une « pénombre psychique » où les comportements humains et machiniques s’imitent et se troublent. Enfin, j’esquisse comment le paradigme ludique offre une heuristique pour repenser un rapport magique à la technique qui serait désindexé du régime normatif du travail et permettrait d’envisager une forme d’aliénation plus vivable.
Plan
Haut de pageTexte intégral
« Si donc il était possible à chaque instrument, parce qu’il en aurait reçu l’ordre, ou par [simple] pressentiment, de mener à bien son œuvre propre, comme on le dit des statues de Dédale ou des trépieds d’Héphaïstos qui, selon le poète [Homère], entraient d’eux-mêmes dans l’assemblée des dieux, si, de même, les navettes tissaient d’elles-mêmes et les plectres jouaient [tout seuls] de la cithare, alors les ingénieurs n’auraient pas besoin d’exécutants ni les maîtres d’esclaves. »
Aristote, La Politique
- 1 Cet article est le fruit des recherches effectuées dans le cadre de la chaire « Éthique & IA » de l (...)
1Le leitmotiv de l’aliénation technique dans la pensée politique occidentale est une rengaine que l’on se doit d’entendre tant il insiste au-delà de ses réfutations parfois désinvoltes. Il se décline d’au moins trois manières1. La première, métaphysique, consiste à dire que la technique nous éloigne de notre « nature première », de notre « humanité », nous fait « oublier l’Être » : la technique possède une puissance aliénante qui nous plonge dans un désœuvrement et un déracinement ontologique. La deuxième est socio-historique dans la mesure où elle découlerait d’une transformation des modes de production, et plus particulièrement d’une industrialisation et d’une accélération de ceux-ci dans des formes exacerbées de machinisme qui indexent les rythmes de la vie à la cadence inlassable de la machine afin de transformer toujours plus de travail vivant en travail mort. Qualifions la troisième de cognitivo-comportementale étant donné que ce serait la vitesse et la complexité de l’opération technique qui résisteraient ou échapperaient à l’opération cognitive humaine : son « opacité » la rend inintelligible alors que son comportement s’autonomise par rapport à celui de l’agent humain avec lequel il est censé interagir ou être couplé.
- 2 Winner, L., Autonomous Technology. Technics-out-of-control as a Theme in Political Thought, Cambrid (...)
2L’inquiète idée que la technique sortirait de ses gonds, qu’on en perdrait le contrôle et qu’elle se retournerait contre son créateur est devenue une sorte de réflexe de toute pensée critique de la technique2. Elle opère comme un point de passage obligé et inconfortable. Comme le soulignait le théoricien de la technique Langdon Winner il y a près de cinquante ans, la « perte de contrôle » sur la technique est un enjeu récurrent de la pensée politique occidentale et s’exprime chez les auteurs qui la redoutent comme un problème de croyance et de connaissance. Il me semble que cette caractérisation est d’autant plus centrale pour approcher la question de l’aliénation technique à l’heure du déploiement massif des technologies de l’Intelligence artificielle (IA). En effet, l’aliénation pourrait se comprendre comme le produit conjoint d’un excès de croyance dans le salut apporté par les objets « intelligents » et « connectés » en tous genres, et d’un défaut de connaissance de leurs fonctionnements qui nous permettrait de faire la distinction entre leur réalité effective et les discours souvent idéologiques qui les portent. Ce diagnostic plus ou moins critique et précis se retrouve à peu près partout dans la littérature contemporaine sur les effets normatifs de l’IA. Mais trop souvent et de manière irréfléchie, « croyance » charrie une signification péjorative alors que « connaissance » est valorisée par-dessus tout. On pourrait, assez sommairement, expliquer la dévalorisation de l’une et la valorisation de l’autre à partir des effets combinés de la sécularisation politique et de l’humanisme scientifique, mais nous n’aurions encore rien dit sur pourquoi la croyance dans la technique implique une forme d’aliénation, et pourquoi connaître la technique permettrait de réparer ou dépasser cette aliénation. Ce qui m’intéresse ici est le fait même que la technique soit axiologiquement polarisée entre croyance et connaissance. Cette contribution vise à montrer que cette polarisation, loin d’être quelque chose à résoudre ou à dépasser, caractérise l’ambivalence de la réalité technique à laquelle notre travail philosophique consiste à donner une consistance.
3Dans un premier temps, je passe en revue certaines ambiguïtés et difficultés liées au terme d’aliénation, pour ensuite problématiser une série d’enjeux qui me permettent de mieux appréhender les termes plus précis du rapport entre connaissance et croyance lorsqu’il est question d’aliénation technique : l’automatisme, la magie, le travail et le jeu. Par ce biais, il s’agira d’interroger ce que serait une interaction technique qui n’implique ni un éloge de la connaissance scientifique, ni un rejet de la foi qu’elle inspire, qui réponde moins aux normes du travail et davantage à celles du jeu. Si cette approche témoigne pour partie d’une approche inspirée de la philosophie de Gilbert Simondon, elle cherche par ailleurs à réactualiser celle-ci à la lumière de l’IA et la tirer le plus loin possible sur le terrain de la philosophie politique, y compris dans sa confrontation problématique avec une perspective davantage marxiste. De ce point de vue et à titre d’hypothèse, l’enjeu politique qui se joue dans le rapport magique à la technique peut se reformuler sous la forme d’une double question : sous quelle forme cette ambivalence entre croyance et connaissance est-elle rendue sensible, et quelle forme de collectif correspond à l’expérience de cette ambivalence ?
Que faire de l’aliénation ?
- 3 Jentsch, E., On the Psychology of the Uncanny, 1906, Freud, S., « The ‘Uncanny,’ » in The Standard (...)
- 4 Pascarelli, G., « The Geist in the Machine : Freud, the Uncanny, and Technology », in Confronting M (...)
4Le déploiement de l’IA attise à nouveau les suspicions et hantises ressenties envers la technique. Selon des discours médiatico-académiques largement répandus, on assisterait, entre autres phénomènes, à une « déresponsabilisation » de l’agent humain face à des systèmes algorithmiques de plus en plus automatisés et à une « déshumanisation » des rapports sociaux à cause d’une survalorisation de processus d’optimisation. On retrouve, à travers ce champ de positionnements critiques, les deux acceptions communément admises de l’aliénation : la cession d’un droit ou d’une responsabilité à autrui (dans ce cas, et selon la nuance du discours, l’« algorithme », la « machine » ou la « technique ») ; l’expérience d’une situation ou d’une relation de domination ou d’asservissement qui nous rend étrangers au monde ou à notre propre subjectivité. On ne peut statuer ici sur la réalité effective de ces dérangements tant ils sont entremêlés à des discours prophétiques, commerciaux et politiques. Mais force est de constater que l’IA semble réactiver une crainte profonde, une sorte de fascination inquiétante que la technique nous inspire et que l’on pourrait qualifier avec E. Jentsch et S. Freud d’une expérience unheimlich3 où le familier paraît étrange et l’étrange familier : les objets que nous fabriquons s’animent tandis que leurs fonctionnements recèlent des secrets auxquels nous ne pouvons aisément accéder4. L’arcane technique nous fascine précisément parce que nous savons qu’il est le produit de notre effort ou de nos gestes, tout en éprouvant l’impuissance de ce savoir face aux effets qu’il produit en retour sur nous. Il indique aussi bien un rapport problématique à l’objet connu qu’une limite du sujet connaissant.
- 5 Leroi-Gourhan, A., Le geste et la parole, tome II La mémoire et les rythmes, Paris, Éditions Albin (...)
- 6 Collins, H., Artificial Experts: Social Knowledge and Intelligent Machines, Cambridge, MIT Press, 1 (...)
- 7 Mori, M., « La vallée de l’étrange », Gradhiva [En ligne], 15 | 2012, consulté le 01 janvier 2016. (...)
5Le préhistorien et anthropologue des techniques A. Leroi-Gourhan qualifiait de « machinal » les « programmes » de gestes quotidiens pour les distinguer de purs automatismes inconscients5. Pour Leroi-Gourhan on se trouve dans une « pénombre psychique » lorsqu’on se comporte de manière machinale. Le propre de ces comportements est qu’ils ne doivent pas découler d’une conscience mais qu’ils peuvent être ressaisis par une conscience. Qu’ils soient ceux d’un organisme ou d’une machine, l’important est que l’on puisse agir sur ces comportements dans les cas où ils seraient désajustés. En fait, les comportements que la machine objective dans son fonctionnement étaient ceux que l’on pouvait déjà qualifier de machinaux dans l’organisme ; comme si une machine n’était que la matérialisation fonctionnelle de comportements machinaux qui lui préexistaient. Harry Collins explicite cette indétermination de la manière suivante : "there is a large aspect of human behavior that mimics machines, and machines can mimic these aspects perfectly6." Cette expérience d’un mimétisme sans origine fixe entre l’humain et la machine s’éprouve de manière aussi remarquable que rare dans le développement de robots anthropomorphes qui nous plongent dans une zone d’indétermination ontologique souvent appelée « la vallée de l’étrange7 » (uncanny en anglais). Toutefois, elle s’éprouve de manière plus quotidienne et moins remarquable à travers un ensemble grandissant d’applications « intelligentes » et d’agents artificiels qui participent à nos activités sociales.
6Sans plonger dans la brèche psychanalytique, il me semble que l’hypothèse de la « pénombre psychique » ou de l’unheimlich permet d’approcher le problème de l’aliénation technique de manière renouvelée. Car de deux choses l’une : soit on postule que l’aliénation nous clive d’un monde originairement unifié et la tâche politique dans ce cas est celle d’une restauration d’un état de nature perdu ; soit on considère que l’expérience du monde est originairement clivée et la politique consiste alors en une révolution pour établir une nouvelle unité. Face à cette dichotomie, l’enjeu ici est de faire une place à l’expérience de l’aliénation sans postuler l’antériorité temporelle ou logique d’une unité qu’il s’agirait de retrouver à travers une restauration pré-aliénation ou un dépassement post-aliénation.
- 8 Reigeluth, T. « Aliénation, travail et culture technique chez Simondon », Cahiers du GRM [En ligne] (...)
- 9 Sur le problème de l’aliénation et du travail vivant voir notamment : Cukier, A. (dir.), Travail vi (...)
7J’ai tenté de montrer ailleurs8 en quoi les théories simondonienne et marxiste de l’aliénation peuvent s’articuler pour rendre compte de l’aliénation technique à la lumière du machine learning. Bien que la première ait tendance à situer l’aliénation davantage sur le plan cognitivo-comportemental et le second davantage sur le plan socio-historique, les deux diagnostiquent l’aliénation comme la privation d’une expérience possible. Dans le premier cas il s’agit de la privation d’une capacité de réinvention du schème de fonctionnement d’un dispositif à cause d’un défaut de culture technique ; dans le second cas c’est la privation de la propriété des moyens de production qui empêche la dynamique d’appropriation et de transformation du monde par le travail vivant9. Dans les deux cas, l’utilisateur et le travailleur voient leurs comportements réduits à la part congrue exigée par l’objet technique acheté ou par l’organisation du travail imposé. En ce sens on peut dire que l’aliénation correspond au fait que la division sociale est toujours simultanément une division du corps individuel lui-même. Pour le dire avec Leroi-Gourhan, une grande partie de nos comportements sont machinaux et ces comportements se retrouvent extériorisés ou objectivés sous forme de dispositifs techniques. L’aliénation est alors ce que l’utilisateur ou le travailleur éprouvent lorsque leurs dispositions ne permettent pas de ressaisir les opérations des dispositifs dans leur conscience.
8Je me tourne vers une troisième possibilité qui est ni celle de la restauration, ni celle de la révolution mais celle d’une sorte de réalisme pour lequel la tâche politique serait de rendre l’aliénation vivable, voire éventuellement d’en faire une source de puissance individuelle et collective, précisément dans la mesure où l’étrangeté qu’implique l’expérience technique serait aussi bien une condition qu’une limite à notre individuation collective – dans la mesure où un collectif peut s’organiser autour et au travers d’une médiation technique. En termes politiques, il s’agit d’investir une position réaliste suivant laquelle la vie collective, y compris les êtres techniques qu’elle comprend, est un champ de rapports de forces, de conflits et de concours plus ou moins ouvert et pour lequel il n’existe aucun principe transcendant permettant d’en déterminer l’ordre idéal. Ce que j’aimerais donc proposer ici est l’idée suivante : l’expérience de l’aliénation technique ne suppose pas nécessairement ou uniquement qu’il faille passer par une régulation juridico-politique pour rétablir la responsabilité humaine qui aurait été cédée à la machine, ni qu’il faille mieux connaître la machine pour réparer l’attachement aliénant, irrationnel et magique qui nous rendrait dépendant des objets « intelligents » ou « connectés » de plus en plus présents et actifs dans notre sociabilité.
La norme technique comme programme
9Admettre que le fonctionnement d’une machine recèlerait quelque chose de mystérieux et de secret est antithétique pour quiconque conçoit la machine comme la matérialisation d’idées claires, d’un discours scientifique systématique et lumineux qui se validerait dans l’efficacité même de sa matérialisation. Dans une telle conception, encore profondément ancrée dans nos représentations, cette dernière est la fille prodigieuse de la science. Sans tomber dans un éloge béat ou une fascination obscure pour les prouesses techniques, il est salutaire de rappeler le caractère réducteur de l’idée générale selon laquelle une technique découlerait et serait la matérialisation d’une avancée scientifique et d’un discours rationnel, bien avant l’émergence de l’IA.
- 10 Canguilhem, G., Le normal et le pathologique, Paris, P.U.F., 1966, p. 80.
- 11 Pour bien faire il faudrait signaler que Bernard Stiegler propose une définition quasi-identique de (...)
10L’histoire de la philosophie et de l’anthropologie des techniques est traversée par l’idée que la technique prolonge et amplifie l’activité vitale. Qu’elle serve de prothèse aux organes ou d’extériorisation de la mémoire, la technique serait à penser dans la continuité de la vie10. Avant de répondre à une méthode scientifique, la technique témoigne de la capacité de l’activité vitale à faire la même chose autrement. Ce n’est donc pas la technique qui matérialise la science, mais la science qui abstrait la technique sous forme de discours systématiques. La connaissance de la technique se fait toujours à partir et non au-dessus ou à côté du vivant. La technique est la continuation de la vie par d’autres moyens11.
- 12 Canguilhem, La connaissance de la vie, Paris, Libraire philosophie J. Vrin, 2009, p. 146.
- 13 On fait allusion ici aux perspectives bien connues de J. Ellul et M. Heidegger.
- 14 Bachimont, B., Le sens de la technique : le numérique et le calcul, Paris, Encre Marine/Les Belles (...)
- 15 Dumouchel et Damiano, op.cit., p. 10.
11Saisir la technique dans sa continuité avec l’activité vitale renverse le schéma classique auquel nous sommes attachés depuis le moment cartésien : la machine ne ferait qu’obéir, elle ne serait que la matérialisation d’un ordre normatif qui la précède. La norme s’énoncerait sous la forme du commandement, depuis une position d’extériorité, d’antériorité et de surplomb par rapport à ce qu’il s’agit de gouverner. Là où le corps vivant et les passions humaines laissent toujours ce rapport d’obéissance et l’efficacité du commandement dans une relative incertitude, la machine quant à elle, et plus particulièrement l’automate, permettrait d’envisager un rapport de commandement et d’exécution sans faute12. Dans cette perspective, l’automate sert de modèle analogique permettant à l’homme d’agir « comme maître et possesseur de la nature » en produisant de la finalité à travers les mécanismes qu’il construit. On retrouve ici la matrice à partir de laquelle les conceptions modernes de la technique se composent : l’ordre et la finalité de la machine sont inscrits dans son mécanisme, lequel est parfaitement analysable parce qu’il procède uniquement du génie humain. La technique apparaît dès lors comme ce qui vient entre l’humain et la nature, et ce faisant ce qui lui permet d’agir sur sa nature, dans un rapport de « maîtrise » et de « provocation13. » Cette matrice préfigure une caractéristique essentielle de la technique industrielle et ensuite informatique : le programme, qui est à la fois un modèle simultanément normatif (on écrit le comportement que la machine doit exécuter) et épistémique (c’est le programme qui permet de certifier notre connaissance des fonctions de la machine14). Pour le dire encore autrement, c’est ici que s’articule l’idée générale que notre connaissance de la technique dépend de notre capacité à lui commander et de sa disposition à obéir. Comme le soulignent Paul Dumouchel et Luisa Damiano cette idée est encore bien vivante aujourd’hui : « Nous voulons que les robots aient toutes les qualités que les maîtres recherchent dans leurs esclaves, les patrons dans leurs employés, les commandants dans leurs soldats, et nous voulons qu’ils n’aient ni leurs faiblesses, ni leurs manques, ni surtout cette tendance irrépressible à l’insubordination, à l’indépendance, et à n’en faire qu’à leur tête qui caractérise les travailleurs humains15. » La révolte du robot ou plus largement la technique « hors de contrôle » est le mythe où se joue la contradiction fondamentale qui naît du fait qu’on demande à la technique d’être à la fois autonome et de faire ce qu’on lui dit – nous y reviendrons.
- 16 Canguilhem, G., « Machine et organisme » in La connaissance de la vie, op.cit., p. 154.
- 17 « L’objet technique comme paradigme d’intelligibilité universelle », in Simondon, G., Sur la philos (...)
12Contrairement donc à l’activité d’une machine qui se limite à l’exécution d’un programme d’opérations placé dans sa structure et fixant sa finalité, l’activité vitale modifie son programme en permanence en fonction des finalités plus ou moins stabilisées qu’elle se donne pour orienter ses comportements16. Le vivant est normatif là où le machinique n’est que normé. La machine devient ainsi l’image idéale d’une norme parfaitement programmée pour laquelle il ne manquerait qu’une connaissance adéquate pour assurer son efficacité. Simondon souligne la fonction épistémique de l’automatisme dans la philosophie cartésienne : « L’automatisme donne à l’esprit la possibilité de penser discursivement et avec rigueur comment une fonction s’accomplit, sans faire intervenir aucune intuition de finalité17. » Par la même occasion, l’automatisme comme discours en acte consacre une rupture avec une pensée magique de la machine dans la mesure où elle ne témoigne plus d’une imitation insaisissable du cosmos mais du travail clair et distinct de l’esprit.
- 18 Mayr, O., Authority, Liberty & Automatic Machinery in Early Modern Europe, Baltimore, The Johns Hop (...)
13Ainsi, le mécanisme cartésien produirait une rupture avec la pensée magique : la technique est la servante de la raison et l’expression de la puissance humaine. La technique est instrumentale et laborieuse, elle s’évalue à l’aune de son utilité et de sa docilité. Elle est ainsi pensée comme exemple même de l’obéissance. La modernité technique peut dès lors se comprendre à partir de sa propre mise en scène dramatique envers et contre une représentation magique de la nature, grâce à la production de représentations mécaniques qui offrent une nouvelle sorte de spectacle, celui de la raison matérialisée et toujours plus efficace dans sa maîtrise de la nature18.
Déprogrammer la technique
- 19 Simondon, G., L’individuation à la lumière des notions de forme et d’information, Grenoble, Édition (...)
- 20 Ibidem.
14Que doit-on penser d’une technique qui serait en partie magique ? La modernité pensait avoir congédié cette possibilité précisément à travers ses prouesses techniques alors qu’elle a en réalité été assimilée par ces dernières et resurgit régulièrement. Cette insistance est d’autant plus dramatique avec l’IA dans la mesure où l’idéal normatif de l’automatisation auquel la technique reste indexée semble s’étendre aux capacités qui plaçaient la vie à l’abri de la technique, à savoir des activités normatives comme l’apprentissage. En effet, le propre de l’apprentissage est de suivre ce que Simondon appelle un « déterminisme divergent » par lequel l’activité apprenante est de plus en plus ouverte à de nouvelles déterminations, contrairement au « déterminisme convergent » qui caractériserait l’activité machinique et où les possibilités de fonctionnement sont restreintes par sa programmation19. C’est cette distinction qui permet à Simondon de dire que même « […] la meilleure machine à calculer n’a pas le même degré de réalité qu’un esclave ignorant, parce que l’esclave peut se révolter alors que la machine ne le peut […]20. » Simondon se réfère plus ou moins explicitement au fonctionnement d’une machine linéaire – dans le style de celle de Turing – qui intégrerait des données par étapes successives pour converger vers un résultat donné et analytiquement décomposable (ce qui confirme la définition même de « programme »). Or la pluralité des systèmes algorithmiques qui se regroupent aujourd’hui sous le vocable machine learning, répond de moins en moins à une telle notion de machine. Avec la disparition de cette image de la machine nous assistons peut-être aussi à la disparition d’une image de la norme comme programme. L’IA pourrait-elle impliquer un phénomène de déprogrammation de la technique ?
15Sans doute la technique n’a jamais été la servante que l’on pensait, et l’aliénation qui s’éprouve à nouveau à travers l’IA n’est pas tant liée au fait que cette dernière semble mettre à mal les grands partages ontologiques entre le vivant et la machine, mais que c’est une certaine image sociale et politique, une certaine manière de concevoir la norme qui entre en crise : les machines apprenantes exposent une tension normative inédite entre la norme de l’automatisme et celle de l’autonomie. D’une part nous exigeons des machines qu’elles continuent à obtempérer comme de parfaites exécutrices de nos normes alors que, d’autre part, nous attendons d’elles qu’elles nous émerveillent par leurs découvertes inédites dans des masses de données insondables. Le couplage de ces deux attentes normatives ne produit rien d’autre que des double binds comme le vocable « apprentissage automatique ». Aussi est-on en droit de se demander comment quelque chose peut être à la fois automatique et autonome, sauf à avoir une définition extrêmement élargie de l’automatisme ou considérablement appauvrie de l’autonomie, ou sauf à vouloir produire des machines qui hallucinent et développent des pathologies psychiques. Cette difficulté se voit clairement dans la formule « ça (ne) marche (pas) ! » qui exprime soit un étonnement soit une consternation face à la performance d’une machine. Lorsqu’on s’exclame de la sorte il ne s’agit pas de faire état de notre connaissance du fonctionnement de la machine mais simplement de l’évaluer à la lumière d’une norme idéale de fonctionnement dont elle serait indissociable aux yeux de l’utilisateur. Si la machine marche c’est qu’elle fait ce pour quoi elle a été conçue, achetée et utilisée ; elle remplit la finalité et la fonction qui a été placée en elle. Mais avec certaines applications d’apprentissage machine même ce type d’évaluation normative limitée perd de son sens. En effet, que signifierait un système algorithmique qui « (ne) marche (pas) » alors qu’une partie de son activité consiste précisément à produire de l’inattendu, à écrire son propre programme lui permettant de (nous) apprendre quelque chose sur les flux de données qui le nourrissent ?
- 21 Reigeluth, T., Comporter la norme. La normativité de l’apprentissage algorithmique à partir du prob (...)
- 22 Simondon, G., « Psychosociologie de la technicité » in Sur la technique, Paris, P.U.F., 2014, p. 78
16Ce vers quoi les avancées récentes dans le domaine de l’IA (réseaux convolutionnels, transfer learning, adversarial networks, etc.) semblent pointer est l’effacement d’une certaine possibilité normative bien plus que l’effacement du partage entre la machine et l’organisme : la possibilité qu’il existe quelque chose dans ce monde qui obéisse automatiquement à une norme, qu’il y aurait un comportement qui ne serait rien d’autre que l’exécution d’un programme (c’est-à-dire d’une norme écrite à l’avance)21. Il se pourrait que nous assistions à la mort d’un idéal. Car si l’on suit Simondon, l’automatisme est bien une norme idéale et non une norme de fonctionnement : « [c]e n’est pas la technicité qui apporte véritablement l’automatisme, mais l’homme qui demande à la technicité un automatisme magique qu’elle ne peut souvent fournir que bien imparfaitement et de façon tout illusoire22. » Rien ne fonctionne automatiquement, raison pour laquelle tous les automates sont aussi des objets magiques. Le paradoxe de la modernité technique tient au fait d’avoir congédié la magie à travers le triomphe de l’automatisme qui s’impose pourtant lui aussi comme un tour de prestidigitation, celui d’une raison sans fins. Ce que l’IA nous montre de plus en plus clairement est qu’une partie du “programme” de certaines technologies réside dans les comportements organiques et les activités sociales qui organisent leur finalité. Il faut explorer les limites et possibilités de ce rapport magique à la technique qui est véhiculé par l’idéal de l’automatisme et voir en quoi les technologies de l’IA redistribuent les cartes de cet enjeu.
Spectres de l’automatisme
- 23 Schaffer, S., « Enlightened Automata », in The Sciences in Enlightened Europe, (Clark, Golinsky and (...)
- 24 Schaffer, S., « Babbage’s Dancer », Imaginary Futures, http://www.imaginaryfutures.net/2007/04/16/b (...)
17Au cours du XVIIIe siècle, l’automatisme perd de sa valeur épistémique centrale pour assumer davantage une fonction d’utilité liée au travail ou au divertissement. Simondon précise qu’une fonction sociale est rajoutée à l’automate qui est inessentielle à sa technicité et qui est de plus en plus détachée de la connaissance de cette dernière. Une véritable culture de l’automate se développe à cette époque en Europe : les cours royales, les salons bourgeois et les foires mondaines deviennent les lieux de mise en scène d’artifices qui n’ont d’autre utilité que d’émerveiller le public – ou dont l’utilité n’est dirigée que vers le fait de se donner en spectacle23. Un des exemples les plus célèbres est sans aucun doute le « Turc mécanique », prétendu automate joueur d’échecs qui cristallise à lui seul les relations complexes entretenues par la mécanisation avec la magie, le jeu et l’orientalisme24. Contrairement à ce qu’on pourrait croire ces relations ne font que s’accentuer avec l’amorce du machinisme industriel. La culture de l’automatisme se développe dans une tension permanente entre, d’une part, ce qu’on pourrait qualifier avec Simondon de « morale du rendement » qui indexe la valeur de la machine à l’efficacité accrue qu’elle permet et, d’autre part, la mise en scène spectaculaire de sa performance censée ébahir les spectateurs qui ne connaissent rien de son fonctionnement concret. L’objet technique magique est alors celui qui dédouble le travail de l’individu sous une forme objectale véhiculant un ensemble de valeurs sociales liées à son achat et son usage. Tout se passe comme si on avait inventé des machines qui peuvent non seulement prendre en charge une part de travail pénible mais qui exhibent certains de nos comportements techniques (laver le linge) d’une autre manière ; ici encore, la technique est la continuation de la vie par d’autres moyens, parfois spectaculaires. On estime que la machine fonctionne lorsqu’elle garde à distance le sentiment d’insécurité qui guette son propriétaire. Par la suite, tout écart de l’optimum, toute panne éventuelle, est vécu comme une perturbation de la tranquillité domestique, soulevant de nouveaux problèmes liés à sa réparation, lesquels sont en général d’autant plus dramatiques qu’ils témoignent d’un défaut cruel de connaissance par rapport au fonctionnement de la machine et impliquent des formes de dépendance envers des « spécialistes » dont la fonction est de restaurer la magie de la machine. En d’autres termes, l’aliénation que nous éprouvons dans le rapport magique à la machine lorsqu’elle fonctionne comme elle devrait nous sauve momentanément de l’aliénation que nous éprouvons lorsqu’elle ne fonctionne pas comme elle devrait, ce qui nous plonge dans des rapports sociaux asymétriques fondés sur une division du travail et de la connaissance.
- 25 Guchet, X., Pour un humanisme technologique, Paris, P.U.F., 2010, p. 179.
18La machine automatique devrait nous « libérer » d’un travail pénible, mécanique, abrutissant en prenant en charge des comportements que nous mobilisons (tremper, frotter, essorer le linge) dans certaines activités sociales (laver le linge). Mais pour Simondon l’aliénation du travailleur diagnostiquée par Marx se répercute sur l’état affectif et social du consommateur et de l’utilisateur qui généralement ne peut pas ou ne veut pas s’occuper de sa machine. La prétendue libération par l’automatisation est en réalité une occasion manquée de connaître l’automatisme et de reconnaître l’activité technique comme activité de connaissance25. La connaissance du schème technique ne se limite toutefois pas à un encyclopédisme abstrait et universel mais se déploie à partir d’une pratique située impliquant un couplage toujours partiellement indéterminé entre dispositions et dispositif.
- 26 Simondon, G., Du mode d’existence des objets techniques, Paris, Éditions Aubier, 2012, p. 235.
19Mais précisons encore un peu ce que nous entendons par « magique ». Simondon opère une distinction entre la technique et la religion, les deux termes résultant du déphasage de l’unité primitive magique au monde. La magie implique un rapport qui permet d’accéder au monde en le convoquant dans ses « points clefs » (Simondon parle, par exemple, du fait de pouvoir parler au peuple en parlant au Roi) alors que le rapport technique au monde suppose de parcourir le réseau des opérations dans son entièreté, point par point, sans prendre le tout pour la partie26. À la différence d’un dépassement, le déphasage n’implique pas la fin du rapport magique. En appuyant sur un point-clé (bouton) nous pensons accéder à toute la machine, faisant fi du réseau d’opérations disparates que ce tout comporte. Sur le plan politique, ce rapport magique implique un rapport de commandement : de nouveau la machine serait l’ouvrier, ou plus encore l’esclave, qui ne serait même pas capable de se révolter, dans la mesure où la révolte est rabattue à une simple déviation contingente de la norme, une « erreur ». À l’inverse de la pensée technique, le rapport magique a tendance à s’en prendre au tout lorsque c’est uniquement une partie qui dysfonctionne.
20En effet, il ne s’agit pas de déprécier ou de conjurer le rapport magique en tant que tel. En fait, il faudrait même aller jusqu’à dire qu’en connaissant l’objet technique dans son fonctionnement à travers un engagement situé et pluriel, l’humain peut retrouver un rapport magique au monde dans la mesure où l’objet est toujours plus que lui-même. L’objet (pensons au téléphone, à la prise de courant ou à un ordinateur connecté à Internet) constitue un point dans un réseau plus ou moins dense et étendu, un point d’accès plus ou moins riche pour participer au monde. La disponibilité de l’objet représente le réseau mais il n’est pas le réseau. Il y a là de quoi repenser fondamentalement la dimension esthétique et sensible de ce rapport sans recycler l’imaginaire publicitaire qui nous promet « le monde au bout des doigts ». Car rigoureusement parlant, ce n’est pas le monde auquel on accède, mais un monde en particulier avec toutes ses chaînes d’exploitation sociales, environnementales et économiques. Or au plus les dispositifs gagnent en complexité et en couches d’opérations, au plus le réseau qu’il représente est dense et étendu, au plus certains de nos comportements sont digérés par la « pénombre psychique ». Mais à l’inverse de nos propres comportements machinaux qui ne produisent pas les effets habituels ou qui présentent un problème au cours de l’activité, on ne sait que faire de ceux qui sont extériorisés dans ces grands ensembles techniques lorsqu’ils ne « marchent pas » : on se débarrasse de l’objet pour éloigner cette angoisse liée au sentiment qu’il y aurait quelque chose dans la technique et donc quelque chose en nous – car la technique n’est que la continuation de la vie par d’autres moyens – que nous ne maîtrisons pas. L’enjeu, il me semble, n’est pas de réparer cette absence de maîtrise, mais de soigner le sentiment d’angoisse qu’il suscite. Il y a alors deux rapports magiques : le premier qui réduit l’objet technique à une norme idéale qu’elle est de toute façon incapable d’incarner sans faute et qui circonscrit l’interaction qu’on peut en avoir ; le second où l’objet technique se présente comme un point permettant d’accéder à un monde plus vaste et dont l’engagement présente des problèmes toujours partiellement indéterminés.
- 27 Diakopoulos, N., « Algorithmic Accountability Reporting : On the Investigation of Black Boxes », To (...)
- 28 28. Seaver, N., « Knowing algorithms », Media in Transition 8, Cambridge, 2013 ; Burrell, J., « Ho (...)
21À l’image de la charge simondonienne contre le premier type de rapport magique, la critique contemporaine prévalente consiste à se lamenter du manque de transparence de certains processus algorithmiques « apprenants » ou « intelligents » et à réclamer l’ouverture des « boîtes noires » afin que les utilisateurs puissent se les réapproprier27. Ce faisant elle se conforme à une conception rationaliste voire technocratique de la technique. Raison pour laquelle la critique de la technologie au nom d’une défense de valeurs démocratiques a tendance à cultiver une suspicion envers tout dispositif technique dont le fonctionnement serait dissimulé dans les coulisses de l’action. Mais ces critiques font généralement l’impasse sur le problème de la division du travail et tendent à dévaloriser tout rapport qui ne découle pas d’une utilisation éclairée, qui ne s’élève pas au rang d’un engagement rationnel et qui sombrerait dans une forme de magie. À rebours de ces critiques, et en m’inspirant de la seconde variante du rapport magique, j’aimerais examiner à présent les manières dont l’engagement ludique avec la boîte noire permet de réévaluer certains enjeux sociaux et politiques liés à l’aliénation technique. Au moins trois plans contemporains invitent à repenser notre rapport contemporain à la technique à l’aune de l’engagement ludique : 1) les technologies intelligentes se caractérisent par leur faible niveau de détermination quant à leur finalité d’usage; 2) il s’agit généralement des dispositifs « ambiants » et « connectés » qui se couplent de plus en plus insensiblement à nos comportements quotidiens ; 3) les ingénieurs qui participent au développement de systèmes algorithmiques apprenants sont parfois eux-mêmes incapables d’expliquer comment le système est arrivé à tel ou tel résultat. En d’autres termes, rien ne dit qu’équiper les utilisateurs avec les « connaissances adéquates », les « bonnes compétences » ou des formes de literacy permettrait d’accéder à la nature profonde des dispositifs techniques et d’en conjurer le rapport magique qu’ils entretiennent. Les technologies de l’IA mettent en jeu des couches matérielles et temporelles trop nombreuses et diverses pour supposer une quelconque adéquation à l’échelle cognitive et comportementale de l’individu28.
22L’activité technique comme jeu de finalités
- 29 Kaerlein, T., « Playing with Personal Media: On an Epistemology of Ignorance », Culture Unbound, Vo (...)
23Selon une lecture courante, l’essence des objets techniques serait réductible à leur code, que l’on pourrait déchiffrer pour en connaître la vérité. On retrouve ici la matrice de la modernité selon laquelle la machine est réductible à son programme et qu’elle doit par essence être disponible à l’analyse. Or, l’idée qu’une machine aussi complexe qu’un ordinateur et a fortiori un système intelligent distribué pourrait faire l’objet d’une telle lecture, tient du vœu pieux : la disponibilité de son code ne suffit pas à assurer sa connaissance29.
- 30 Müller-Prove, M., « Back to Childhood – Infantilisation of UI Design », https://mprove.de/script/11 (...)
- 31 Kaerlein, loc.cit., p. 655.
24Par-delà l’alternative entre une fétichisation rituelle de l’objet et son interprétation analytique, entre son culte grégaire et son exégèse individuelle, il me semble que le jeu présente une option heuristique prometteuse. En effet, le rapport ludique laisse la possibilité ouverte d’une analyse ou d’une interprétation discursive – tout jeu suppose un ensemble de règles plus ou moins codifiées – sans pour autant réduire les comportements des machines ou des utilisateurs à la simple exécution des règles. Le jeu permet alors d’envisager la part d’aliénation que comporte notre relation aux technologies de l’IA sous un autre jour. Cela dit, aucune revalorisation épistémologique et politique de la relation ludique aux objets techniques ne peut se faire aux dépens d’une critique lucide et informée de la manière dont cette relation peut simultanément entretenir une forme d’aliénation des utilisateurs-consommateurs à une fétichisation marchande des objets qu’ils utilisent conçus pour une durée de vie de plus en plus écourtée et programmée à l’obsolescence. Il ne faut pas minimiser les effets liés à la gamification généralisée qui exacerbe à son tour des phénomènes de perte d’attention, d’addiction aux applications numériques, d’insensibilisation de pratiques de surveillance ainsi que d’une « infantilisation30 » des utilisateurs dans leur rapport à la technique qui se manifeste notamment par le passage de la ligne de commande au graphical user interface31.
- 32 Je me réfère de nouveau ici à l’importance accordée par Kant dans sa Critique de la faculté de juge (...)
25De manière générale, la réalité technique contemporaine se présente davantage sous forme de jouets et de jeux que d’outils. Ces appareils nous sortent d’un rapport purement utilitaire et nous invitent dans une inter-action avec une marge d’indétermination entre les expérimentations de l’utilisateur et les possibilités du dispositif. L’important ici est la possibilité qu’il existe quelque chose comme une intériorité machinique qui ne soit pas assimilable ou réductible à une intériorité humaine (que celle-ci s’appelle « âme », « conscience », « volonté », etc.). Cette intériorité machinique ou, si l’on préfère, cette dimension qui échappe en partie à notre perception, à notre prise ou à notre analyse, nous oblige à postuler une forme de finalité de la machine32. Il ne s’agit en aucun cas de défendre l’idée que la machine aurait ontologiquement une volonté propre, mais simplement que nous faisons comme si elle en avait une dans la mesure où c’est l’expérience sensible que nous en faisons : en agissant et jouant avec l’objet nos comportements et les siens s’informent mutuellement. Nous pouvons toujours ouvrir la boîte noire pour connaître son fonctionnement mais ce serait alors en faire autre chose que l’intégrer à nos chaînes comportementales au sein d’une activité donnée. Le « fonctionnement » que l’on découvrirait à l’intérieur ne permet pas d’expliquer cette expérience. Comme nous allons le voir tout de suite, ce « comme si » qui marque notre rapport à une « volonté » machinique, confère au jeu sa dimension conditionnelle et paradoxale.
Se prendre au jeu, déjouer la norme
- 33 Bateson, G., « A Theory of Play and Fantasy », in Steps to an Ecology of Mind, Narthvale, Jason Aar (...)
- 34 Massumi, B., What Animals Teach Us about Politics, Durham, Duke University Press, 2014, p. 5.
26Nos interactions avec certains dispositifs intelligents et apprenants impliquent de plus en plus un jeu de maîtrise réciproque entre les dispositions de l’utilisateur et les opérations du dispositif : les comportements de l’un viennent déterminer les possibilités de l’autre et inversement. L’utilisateur ne peut faire autrement que se prendre au jeu. Or, le jeu est un mode d’action paradoxal dans lequel, pour reprendre la formule du cybernéticien G. Bateson à travers ses observations du combat ludique de louveteaux : « These actions in which we now engage do not denote what those actions for which they stand would denote33. » Mordiller en jouant est autre chose que mordre jusqu’au sang, et pourtant le premier risque à tout moment de tomber dans le second. Comme le précise B. Massumi, le geste ludique n’est pas moins « sérieux » ou « réel » que celui qu’il représente, il en est simplement la version conditionnelle et paradoxale34. Les actions qui se déroulent ne signifient pas la même chose que ce que signifieraient les actions qu’elles représentent.
- 35 Ibidem, p. 11.
- 36 Ibid., p. 5.
27Il s’agit donc de prendre le contre-pied d’une conception prévalente du jeu selon laquelle celui-ci ne serait qu’une forme de préparation à l’action « réelle », qu’un moyen de s’entraîner pour le vrai enjeu. Plutôt que de voir le geste ludique comme l’expression instinctive d’une adaptation censée préparer au combat, à la chasse, etc., en somme de le réduire donc aux termes d’adaptabilité évolutionniste, Massumi cherche à montrer la dépense spontanée intrinsèque au comportement ludique, sa force de variation et son absence de fonction prédéterminée. En fait, la seule fonction que l’on pourrait admettre serait celle de l’expérimentation ou la dépense comportementale35: on joue aussi pour le plaisir de faire certains gestes sans qu’ils produisent les effets qu’ils produiraient normalement36.
- 37 Collins, op.cit., p. 25.
28On revient ici à l’idée que la technique serait la continuation de la vie par d’autres moyens, et plus encore que ces autres moyens ne sont pas de simples instruments à disposition de nos finalités mais qu’ils sont des vecteurs d’affectivité pour ses utilisateurs. Ce sont des manières d’éprouver le monde sous d’autres formes et de jouer indéfiniment avec celles-ci. Le jeu n’est pas pour autant un mode d’activité arbitraire dépourvu de règles ou de formalismes. Au contraire, son caractère paradoxal le rend précaire et implique bien que l’on se comporte d’une certaine manière. Seulement, le jeu ne se limite pas à l’exécution des règles qui établissent son ordre et ses limites. Jouer revient alors à éprouver que mon comportement peut basculer dans un autre registre si l’affectivité partagée qui irrigue le jeu de son enjeu perd de sa valeur ou de son intérêt. Les règles du jeu fixent alors l’engagement affectif des joueurs, leur donne un enjeu commun, mais il n’explique pas le comportement ludique en tant que tel. D’ailleurs, c’est entre la règle et son application que le jeu prend tout son sens. En effet, tout l’enjeu du jeu consiste à jouer avec les règles d’une façon telle que le jeu ne perde pas d’enjeu. C’est ce que Collins souligne quand il rappelle que l’on joue aux échecs de différentes manières selon le contexte et le type d’adversaire. Aucun joueur n’a réellement envie qu’une partie passionnante s’achève à cause d’une simple faute d’attention ou d’une erreur en « bonne et due forme ». D’ailleurs, on peut se poser la question de savoir si on aurait même envie de jouer contre une « machine pure » qui ne ferait jamais de faute, pour qui les règles ne posent pas problème37.
- 38 Turing, A., « Computing Machinery and Intelligence », Mind, vol. 59, n°. 236, 1950, p. 459.
- 39 Grosman et Reigeluth, loc.cit.
29Du Turc mécanique à la machine de Turing, les premiers pas de l’IA se sont faits précisément en reconnaissant un paradoxe essentiel qui a été plus ou moins perdu de vue depuis : on sait bien que la machine ne pense pas vraiment, mais dans l’interaction affective qu’on en fait, on croira néanmoins qu’elle est intelligente lorsqu’elle ne se comporte pas comme une machine, c’est-à-dire de manière parfaitement automatique et sans erreur38. En d’autres termes, c’est de nouveau dans la « pénombre psychique » que se joue l’indétermination entre l’organisme et la machine, que l’on fait l’expérience de l’intelligence quand bien même on ne peut pas l’expliquer ou l’analyser. Le problème étant que l’asservissement de la technique à une morale du rendement rend quasi impossible une valorisation de cette erreur comme nécessaire à l’activité d’apprentissage39. Or, le paradigme ludique permet de penser à nouveaux frais ce paradoxe au cœur de l’IA en accordant une positivité à l’erreur machinale. La déviation de la norme est aussi ce à travers quoi de nouvelles finalités sont découvertes et expérimentées. Je pense notamment à comment le jeu peut aider les enfants à apprendre et développer une intuition des fonctionnements des objets avec lesquels ils interagissent dans des situations où ces derniers ne sont pas directement indexés à une fonction de travail. Jouer avec les possibilités d’une machine c’est apprendre comment elle fonctionne sans connaître son intériorité. Retrouver l’importance du geste ludique dans l’exploration et l’apprentissage de l’objet technique recèle une forme de magie permettant de produire des effets dans le monde par sauts, c’est-à-dire sans suivre étape par étape les chaînes d’opérations qui accompagne ces effets.
30L’IA, plus que n’importe quelle forme de technique, se développe dans cette « pénombre psychique » et permet de rendre compte d’interactions techniques qui ne sont pas jouées d’avance parce que leur sortie serait déjà contenue dans leur programme : les règles du jeu fixent seulement le cadre général à l’intérieur duquel une improvisation comportementale peut prendre un sens donné. L’aliénation technique découle alors avant tout de cette relation de domination dans laquelle nous avons plongé une partie de notre « pénombre psychique ». La citation de La Politique d’Aristote en exergue de ce texte imagine une technique qui serait douée de sa propre finalité et conclut hypothétiquement de cette lubie que « les ingénieurs n’auraient pas besoin d’exécutants ni les maîtres d’esclaves ». Il me semble que certaines technologies de l’IA nous invitent à voir dans cette vieille hypothèse plus qu’une lubie, quand bien même le fait qu’elle se valide pourrait laisser nos cadres de pensée politique sans exécutants et sans esclaves. Et si nos machines intelligentes ne sont ni des esclaves ni des purs objets de connaissance, alors l’engagement ludique et le rapport magique qu’il implique offrent un gouffre à qui veut s’y enfoncer pour penser une aliénation technique qui ne soit pas simplement le signe d’une privation mais celui d’une exploration des conditions et limites de nos subjectivités contemporaines.
Notes
1 Cet article est le fruit des recherches effectuées dans le cadre de la chaire « Éthique & IA » de l’Institut pluridisciplinaire en intelligence artificielle MIAI@Grenoble Alpes (ANR-19-P3IA-0003). J’aimerais remercier chaleureusement Salomé Frémineur, Thierry Ménissier, Thomas Berns, Fabienne Martin-Juchat pour les discussions, les critiques pointues et les relectures qui ont aiguisé ce texte.
2 Winner, L., Autonomous Technology. Technics-out-of-control as a Theme in Political Thought, Cambridge, The MIT Press, 1977, p. 5.
3 Jentsch, E., On the Psychology of the Uncanny, 1906, Freud, S., « The ‘Uncanny,’ » in The Standard Edition of the Complete Psychological Works of Sigmund Freud, vol. 17, trad. J. Strachey et al., London, Hogarth, 1955, p. 217-56.
4 Pascarelli, G., « The Geist in the Machine : Freud, the Uncanny, and Technology », in Confronting Mass Democracy and Industrial Technology (ed. J. McCormick), Durham, Duke University Press, 2002.
5 Leroi-Gourhan, A., Le geste et la parole, tome II La mémoire et les rythmes, Paris, Éditions Albin Michel, 1965, p. 28-29. [nous soulignons].
6 Collins, H., Artificial Experts: Social Knowledge and Intelligent Machines, Cambridge, MIT Press, 1990, p. 9.
7 Mori, M., « La vallée de l’étrange », Gradhiva [En ligne], 15 | 2012, consulté le 01 janvier 2016. http://gradhiva.revues.org/2311 ; pour une belle problématisation de cette question voir Dumouchel, P. et Damiano, L., Vivre avec les robots, Paris, Éditions du Seuil, 2016.
8 Reigeluth, T. « Aliénation, travail et culture technique chez Simondon », Cahiers du GRM [En ligne], 11 | 2017.
9 Sur le problème de l’aliénation et du travail vivant voir notamment : Cukier, A. (dir.), Travail vivant et théorie critique, Paris, P.U.F., 2017 ou Haber, S., « L’aliénation comme dépossession des besoins vitaux », Mouvements, n°54, 2008, p. 41-53.
10 Canguilhem, G., Le normal et le pathologique, Paris, P.U.F., 1966, p. 80.
11 Pour bien faire il faudrait signaler que Bernard Stiegler propose une définition quasi-identique de la technique que j’ai découverte après-coup : « la poursuite de la vie par d’autres moyens que la vie ». Stiegler, B., La Technique et le temps 1 : La faute d’Épiméthée, Paris, Galilée, 1994, p. 31.
12 Canguilhem, La connaissance de la vie, Paris, Libraire philosophie J. Vrin, 2009, p. 146.
13 On fait allusion ici aux perspectives bien connues de J. Ellul et M. Heidegger.
14 Bachimont, B., Le sens de la technique : le numérique et le calcul, Paris, Encre Marine/Les Belles Lettres, 2010, 2010, p. 167.
15 Dumouchel et Damiano, op.cit., p. 10.
16 Canguilhem, G., « Machine et organisme » in La connaissance de la vie, op.cit., p. 154.
17 « L’objet technique comme paradigme d’intelligibilité universelle », in Simondon, G., Sur la philosophie, Paris, Puf, 2016, p. 400.
18 Mayr, O., Authority, Liberty & Automatic Machinery in Early Modern Europe, Baltimore, The Johns Hopkins University Press, 1986.
19 Simondon, G., L’individuation à la lumière des notions de forme et d’information, Grenoble, Éditions Jérôme Millon, 2013 p. 345.
20 Ibidem.
21 Reigeluth, T., Comporter la norme. La normativité de l’apprentissage algorithmique à partir du problème du comportement, Thèse de doctorat en philosophie, Université Libre de Bruxelles, janvier 2018.
22 Simondon, G., « Psychosociologie de la technicité » in Sur la technique, Paris, P.U.F., 2014, p. 78.
23 Schaffer, S., « Enlightened Automata », in The Sciences in Enlightened Europe, (Clark, Golinsky and Schaffer, ed.), Chicago, University of Chicago Press, 1999 ; Riskin, J. (ed.), Genesis Redux: Essays in the History and Philosophy of Artificial Life, Chicago, University of Chicago Press, 2007.
24 Schaffer, S., « Babbage’s Dancer », Imaginary Futures, http://www.imaginaryfutures.net/2007/04/16/babbages-dancer-by-simon-schaffer/, consulté 8/02/2016.
25 Guchet, X., Pour un humanisme technologique, Paris, P.U.F., 2010, p. 179.
26 Simondon, G., Du mode d’existence des objets techniques, Paris, Éditions Aubier, 2012, p. 235.
27 Diakopoulos, N., « Algorithmic Accountability Reporting : On the Investigation of Black Boxes », Tow Center for Digital Journalism, Columbia School of Journalism, 2013; Pasquale, F., The Black Box Society, Harvard University Press, Cambridge, MA, 2015.
28 28. Seaver, N., « Knowing algorithms », Media in Transition 8, Cambridge, 2013 ; Burrell, J., « How the machine ‘thinks’: Understanding opacity in machine learning algorithms », Big Data & Society, vol.3 n°1, 2016; Grosman, J. and Reigeluth, T., « Perspectives on algorithmic normativities: engineers, objects, activities », Big Data & Society, https://doi.org/10.1177/2053951719858742, 2019.
29 Kaerlein, T., « Playing with Personal Media: On an Epistemology of Ignorance », Culture Unbound, Vol. 5, 2013, p. 656.
30 Müller-Prove, M., « Back to Childhood – Infantilisation of UI Design », https://mprove.de/script/11/hyperkult/slides.html, consulté le 15/04/2020.
31 Kaerlein, loc.cit., p. 655.
32 Je me réfère de nouveau ici à l’importance accordée par Kant dans sa Critique de la faculté de juger au fait qu’une finalité de la nature doit être postulée pour pouvoir juger les lois empiriques et particulières. « C’est donc une supposition transcendantale subjectivement que de considérer que cette inquiétante disparité sans bornes des lois empiriques et cette hétérogénéité des formes naturelles ne sont pas appropriées à la nature, et que celle-ci, à travers l’infinité des lois particulières sous des lois plus générales, possède bien plutôt les qualités requises pour constituer une expérience en tant que système empirique. » Kant, Critique de la faculté de juger, (1790) trad. A. Renaut, Paris, Flammarion, 2000, p. 100.
33 Bateson, G., « A Theory of Play and Fantasy », in Steps to an Ecology of Mind, Narthvale, Jason Aaronson Inc., 1987, p. 139.
34 Massumi, B., What Animals Teach Us about Politics, Durham, Duke University Press, 2014, p. 5.
35 Ibidem, p. 11.
36 Ibid., p. 5.
37 Collins, op.cit., p. 25.
38 Turing, A., « Computing Machinery and Intelligence », Mind, vol. 59, n°. 236, 1950, p. 459.
39 Grosman et Reigeluth, loc.cit.
Haut de pagePour citer cet article
Référence papier
Tyler Reigeluth, « Le rapport magique à l’Intelligence Artificielle, ou comment vivre avec l’aliénation technique », Quaderni, 105 | 2022, 35-52.
Référence électronique
Tyler Reigeluth, « Le rapport magique à l’Intelligence Artificielle, ou comment vivre avec l’aliénation technique », Quaderni [En ligne], 105 | Hiver 2021-2022, mis en ligne le 02 janvier 2025, consulté le 13 décembre 2025. URL : http://journals.openedition.org/quaderni/2216 ; DOI : https://doi.org/10.4000/quaderni.2216
Haut de pageDroits d’auteur
Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.
Haut de page

