Le nez de Pangloss
Résumés
Cet article explore plusieurs questions : tout d’abord, celle du transfert de concepts issus de la physique classique et de la thermodynamique dans le champ de l’économie et de la biologie. Nous montrons que les concepts physiques, tout aussi utiles soient-ils, ne sont pas suffisants pour comprendre l’évolution des organismes vivants et le temps historique (et non thermodynamique) qui les caractérisent. Pour appréhender cette évolution, les concepts d’ex-aptation et de surcharge sont mobilisés. Ceux-ci permettent aussi de comprendre comment les organes artificiels ou exosomatiques peuvent jouer un rôle dans la transformation des organismes biologiques. Nous nous intéressons enfin à la question de l’exosomatisation numérique dans notre culture symbolique, en interrogeant les enjeux épistémologiques et politiques des nouvelles techniques mathématiques de l’intelligence artificielle et de l’apprentissage profond.
Plan
Haut de pageTexte intégral
Le mythe de l’équilibre en économie : le rôle ambigu de la thermodynamique
- 1 Cet article est la transcription réécrite d’un exposé au colloque De la philosophie à l’organologie (...)
1Depuis toujours, je suis très réservé sur les abus, les passages, les transferts des concepts d’une discipline à l’autre. Je pense tout d’abord qu’il faut se donner chaque fois une épistémologie régionale, puis expérimenter des ponts, des corrélations, des dualités qui mettent en évidence des différences.
- 2 Nicholas Georgescu-Roegen, The Entropy Law and the Economic Process, Harvard University Press, Camb (...)
- 3 R. Koppl, S. Kauffman, G. Longo and T. Felin, « Economy for a CreativeWorld », Journal of Instituti (...)
2Quand Georgescu-Roegen critique les équations à l’équilibre utilisées en économie en faisant référence à la thermodynamique2, ce que j’apprécie, c’est la critique du physicalisme en économie. Les équations en économie sont empruntées aux dynamiques physiques à l’équilibre. Mais la moindre structure économique est loin de l’équilibre, c’est-à-dire qu’elle est l’objet d’un flot d’énergie et de matière, qu’on choisisse une entreprise, un pays ou la Terre toute entière, dans ce dernier cas le flot d’énergie qui arrive du soleil est essentiel. Ce n’est toutefois pas la thermodynamique qui va nous guider pour comprendre l’économie, qui constitue une dynamique historique à analyser dans notre histoire sociale et symbolique, bien au-delà des théories physiques3, mais la référence à la thermodynamique sert d’une façon définitive et radicale à la critique d’une économie à l’équilibre, qui nous accable encore aujourd’hui : on est passé des équations de Walras à celles de Fokker-Planck (des années 1910), excellentes équations dans un système à l’équilibre où il y a une composante probabiliste. Depuis 2008, on nous explique qu’elles vont permettre de justifier le hasard dans la bourse. C’est époustouflant d’en être encore là : cette analyse, qui reprend un langage qui se prétend riche de science puisque emprunté à la physique, induit des déformations gravissimes des processus économiques et sociaux.
3On sait que les trajectoires à l’équilibre se font par intégration de gradients locaux : c’est-à-dire qu’une géodésique, un parcours optimal, que suit n’importe quelle pierre qui tombe, nous pouvons la décrire grâce à l’optimalité du gradient local. Il n’est donc pas nécessaire de connaître la cible – c’est la révolution de Lagrange et Hamilton – la lumière, une pierre, une rivière qui va à la mer, suivent le parcours le plus court parce que localement leur gradient a une orientation optimale. C’est l’enseignement clé des économies à l’équilibre : c’est seulement l’optimisation locale des intérêts locaux, isolés, qui gouvernent l’économie. C’est le sens profond de la spontanéité des marchés. Or cette vision fonctionne très bien sur l’inerte, mais dans la conception des rapports économiques, sociaux et environnementaux, l’optimisation locale des profits, qui domine encore aujourd’hui, est en train de nous mener dans le mur, en particulier contre le mur global du changement climatique et écosystémique.
4Une réponse critique à cette vision serait donc la bienvenue, même si cette réponse critique se fonde sur la thermodynamique. Mais le système économique est tout d’abord un système historique, alors que les systèmes thermodynamiques n’ont pas d’histoire. Ils ont un temps propre en tant qu’irréversibles, mais la flamme ou l’ouragan sont du même type depuis quatre milliards d’années, tandis que l’histoire du vivant et de l’homme a beaucoup changé depuis quatre milliards d’années. Il peut donc être utile de mobiliser la thermodynamique en économie dans ce contexte, dans une perspective critique, pour éviter la vision dominante de l’optimisation et de l’équilibre, mais il faut toujours le faire avec une très grande prudence.
L’irréductibilité de la biologie à la physique : temps évolutif vs temps irréversible
- 4 Stephen J. Gould, The Structure of Evolutionary Theory, Harvard University Press, 2002.
5La question de l’exosomatisation est un sujet complexe, auquel Bernard Stiegler a beaucoup travaillé. Ce n’est pas un concept qui concerne seulement les activités humaines : j’essaye de faire des ponts pour comprendre ce concept à l’intérieur de la biologie, c’est-à-dire en restant dans les corps biologiques. Pour mieux comprendre l’exosomation comme processus caractéristique de l’être humain – et pas seulement de l’être humain, car on trouve certains outils non transportables chez des animaux – il peut être utile de se référer au processus biologique que Gould appelle ex-aptation4. Il s’agit de l’adaptation ex post d’un organe pour faire autre chose : par exemple, les plumes pour l’échange thermique qui deviennent une composante essentielle du vol, ou les « podia » de certains animaux qui vont devenir des ailes, voire des bras chez nous, ou, comme il y a 250 millions d’années, la double mâchoire des Gnathostomata, des vertébrés, qui conduit au développement de l’oreille interne. L’ex-aptation est ainsi ce qui crée un nouvel univers possible, une nouvelle niche. Quand on a des oreilles, l’ouïe change notre rapport à l’écosystème.
6L’ex-aptation est articulée d’une façon informelle par Jacob lorsqu’il soutient que l’évolution peut être pensée comme l’utilisation du châssis d’une vieille chaise qui serait mobilisé pour en faire la boîte d’une radio. C’est un excellent exemple : évidemment cette boîte n’est pas optimale comme boîte d’une radio, mais elle est très commode, car on peut s’y asseoir pour écouter la radio. Ce qui se passe tout le temps chez le vivant, c’est que cette boîte de radio, comme les ailes des oiseaux ou des chauves-souris, ne sont pas optimales mais sont des déformations des formes qui existaient déjà, qui prennent un autre usage et qui pour cela acquièrent une nouvelle fonction.
- 5 V. Fleury and R. Gordon, « Coupling of Growth Differentiation and Morphogenesis, and Integrated App (...)
7Certains collègues, qui opèrent un transfert théorique depuis la physique dans la biologie, utilisent, pour la morphogenèse, des méthodes d’optimum, des géodésiques dans l’analyse de la forme animale5, et même dans l’analyse des trajectoires phylogénétiques : selon moi, ils se trompent sur ce point. Dès que les structures biologiques d’un organe ou d’un être vivant deviennent optimales, il est mort : la notion d’optimalité suppose la stabilité d’un espace dans lequel on a un ordre partiel, comparatif. Avoir un optimum, dans ce cadre, implique une rigidité physique telle qu’elle ne peut qu’entraîner l’inadaptation de l’organisme, étant donné que l’écosystème est en changement permanent. Nos poumons, par exemple, peuvent être analysés en termes de fractales aussi bien que le système vasculaire : on peut calculer grosso modo la dimension fractale des uns et des autres, en optimisant les échanges dans un volume. Mais, justement, ils ne sont pas exactement fractaux comme le serait un cristal physique : la diversité, les irrégularités du poumon par rapport à cette forme physique limite, le rend adaptif aux conditions changeantes de l’atmosphère. La diversité du poumon, à la fois au niveau individuel et dans une espèce, ou dans une population, donne la stabilité face au changement permanent de l’écosystème. Voilà donc une bonne raison pour comprendre l’ex-aptation comme le résultat d’une histoire qui ouvre des possibles, et qui implique de s’éloigner des analyses purement physiques des structures biologiques.
- 6 M. Montévil and M. Mossio, « Closure of constraints in biological organisation », Journal of Theore (...)
- 7 G. Longo and M. Montévil, Perspectives on Organisms: Biological Time, Symmetries and Singularities. (...)
8Voici donc un résumé de certaines des connaissances que nous sommes en train de construire sur l’évolution du vivant et la formation de l’organisme en particulier. Notre travail essaye de corréler les dynamiques de l’organisme et son immersion dans l’écosystème : la notion de contrainte à laquelle Montévil et Mossio ont apporté des contributions très importantes6, devient transversale entre organisme, écosystème et parcours évolutif. Il s’agit aussi d’introduire une notion essentielle dans les sciences évolutives : la durée bergsonienne. Il n’y a que de la durée : dès qu’il y a du vivant, il y a un rythme, donc il y a une distance entre les deux battements – le rythme métabolique, le rythme cardiaque, la respiration. Ce sont ces durées qui construisent le temps du vivant. En physique, depuis Aristote et Einstein, le temps est ce qui est mesuré par une horloge (selon Aristote, « le temps est un mouvement que l’on peut mesurer »). Chez le vivant, c’est bien plus complexe : les rythmes, qui sont des nombres purs, qui deviennent des fréquences quand on les rapporte à la durée de vie, demandent une nouvelle dimension pour être représentés7. Évidemment, il y a le temps thermodynamique, puisqu’il y a plein de processus thermodynamiques irréversibles, mais il y a aussi un temps historique.
- 8 A. Sarti, G. Citti, D. Piotrowski, « Differential Heterogenesis », Lecture Notes in Morphogenesis. (...)
9Nous sommes en débat sur ce sujet avec Alessandro Sarti, ami et mathématicien qui travaille sur l’hétérogenèse, bien au-delà de la morphogenèse de type physique8. Personnellement, je pensais que pour le temps évolutif, donc pour le temps du vivant, il aurait suffi d’ajouter un observable dans la même dimension mais Alessandro Sarti a plutôt tendance à ajouter une autre dimension. La question se pose de savoir si le fait d’ajouter l’autre dimension d’un temps historique, en plus de celle des physiciens pour le temps (thermodynamique), est opportun, puisqu’on ne peut pas avoir une dimension propre du vivant donnée mathématiquement a priori. Le temps de l’évolution est constitué par le processus lui-même : le vivant commence à organiser son temps interne par des rythmes qui correspondent à une constitution du temps locale. Donc il y a des temps locaux pour chaque organisme, et leur interaction dans un écosystème produit le temps évolutif. Il n’y a pas de régularité rythmée dans l’évolution. Je pense qu’il ne peut pas y avoir de référentiel externe que l’on puisse placer comme une dimension propre prédonnée du temps évolutif, car il est constitué comme et par les interactions et les déformations des temps locaux des rythmes de chaque organisme. Bref, le temps évolutif est produit par le processus lui-même : le temps local est sécrété par les rythmes locaux et le temps global d’un écosystème est produit, sécrété, par le processus évolutif.
- 9 Giuseppe Longo, « Confusing biological twins and atomic clocks Today’s ecological relevance of Berg (...)
10En cela, je partage l’analyse du temps en thermodynamique, qui constitue une composante essentielle et une dimension pertinente aussi pour le temps biologique. Mais cette composante ou cette dimension n’est pas suffisante en biologie, comme toute analyse en termes entropiques. En tant que telle, la notion d’entropie issue de la thermodynamique a son temps irréversible, thermodynamique : ce temps est toujours là en arrière-plan, dans le vivant, car il y a des transformations d’énergie donc de la thermodynamique, mais il faut aussi utiliser un langage beaucoup plus riche qui englobe ces processus thermodynamiques. Pour comprendre le vivant, il faut aussi utiliser un autre langage concernant le temps proprement biologique : les rythmes et le temps global historique, évolutif, produit par les processus biologiques, j’en parle en détail dans un article sur le temps « entre Einstein et Bergson »9.
L’évolution du vivant contre le dogme de la biologie moléculaire : ex-aptation, surcharge et exosomatisation
- 10 M-J. West-Eberhard, Developmental Plasticity and evolution, New York, Oxford University Press, 2003
11Je voudrais maintenant souligner l’importance de l’analyse de West-Eberhard10 qui n’est pas assez connue selon moi. Dans la lignée de Lewontin et de Gould, elle établit un point des plus importants : elle montre que la diversification et l’invention du nouveau au cours de l’évolution s’enracine la plupart du temps dans la plasticité du développement. C’est la diversité permanente qui se présente pendant l’ontogenèse à partir de l’embryogenèse et sur laquelle se construit la stabilité d’un nouveau parcours.
12West-Eberhard analyse un exemple parmi maints autres : l’évolution du Gasterosteus aculeatus. Ce poisson a une certaine diversité de rythmes métaboliques au niveau du développement : ceci a donné une spéciation, selon laquelle un rythme métabolique est plus adapté à une espèce de surface, tandis qu’un autre rythme est plus adapté aux profondeurs des mers. Il y a donc un rapport entre cette déformation permanente qui est au cœur de l’ontogenèse et son marquage par des épisodes évolutifs qui donnent la spéciation évolutive – de type allopatrique par exemple – c’est-à-dire par mobilité vers une autre niche écosystémique.
13Ces contraintes écosystémiques qui façonnent l’évolution, et qui sont façonnées par l’évolution, par la permanente constitution de niches, rendent possibles des structures d’organismes et de phénotypes qui n’étaient pas là. Voilà la question fondamentale : le changement de l’espace des possibles, ce que l’on appelle « l’espace de phases », c’est-à-dire les observables et les paramètres pertinents, en utilisant une terminologie tirée de la physique. Bref, ces espaces de phases ne sont pas stables (comme cela est assumé dans chaque théorie physique pour son propre espace de phases), mais changent à l’intérieur même de la théorisation de l’évolution biologique. L’ex-aptation est le témoignage de cette constitution d’un nouveau possible, d’un nouvel organisme, une nouvelle niche, avec ses nouveaux observables et paramètres pertinents.
- 11 Giuseppe Longo, « How Future Depends on Past Histories and Rare Events in Systems of Life », Founda (...)
14Je voudrais toutefois ajouter à la notion d’ex-aptation de Gould, la notion de surcharge. Un organe est « surchargé » quand il continue à avoir sa fonction tout en s’adaptant pour en avoir une autre11. Typiquement, les organes parmi les plus surchargés au cours de l’évolution, ce sont le cerveau et les mains de l’homme. Certains surchargent aussi le nez avec des lunettes, d’autres les oreilles en mettant des boucles d’oreille, etc. La main est le lieu d’une surcharge incroyable : on l’utilise même pour jouer du piano ! Ces surcharges peuvent modifier l’organe lui-même ! C’est le cas du cerveau. Nous en avons la preuve massive avec la structure neuronale qui se modifie dans l’activité. Lucy, il y a 3 ou 4 millions d’années, avait un petit cerveau de singe, mais les mains libres : la subtilité de l’activité manuelle, puis le langage, très probablement, ont modifié profondément notre cerveau humain. Le cas le plus connu et le plus ancien dans le champ de la neuro-physiologie moderne est celui de la modification de l’épaisseur de la connectivité des synapses et de certaines parties du cerveau chez le violoniste. L’usage de la main modifie structurellement les connexions synaptiques et l’épaisseur même des flux qui ont lieu dans certaines régions du cerveau. Je propose donc cette notion de surcharge, qui est un mot utilisé ailleurs, un mot du langage ordinaire, et qu’il s’agit de spécifier (ou « surcharger »…) en lui donnant un sens scientifique à l’intérieur d’une discipline spécifique (tout comme la physique a donné un sens précis aux notions communes d’énergie ou de force, par exemple).
15Les organes techniques numériques constituent d’une part l’ex-aptation de processus cognitifs, issus aussi d’une histoire symbolique, et de l’autre une surcharge pour notre cerveau. Notre cognition change dans les nouveaux contextes de réseaux d’ordinateurs, tout comme l’exercice de la main très particulier du violoniste modifie la structure biologique de son cerveau. Il y a donc une surcharge de ces organes de grande plasticité que sont le cerveau et, selon sa fonctionnalité, la main : la pratique évolutive modifie la biologie. Ces phénomènes peuvent être compris comme des phénomènes d’ex-aptation et surcharge dus à l’exo-somatisation et aux effets d’une histoire symbolique – l’ordinateur, machine formelle alpha-numérique, est surtout le résultat de la deuxième. Mais je crois que toute exo-somatisation est d’abord, ou surtout « symbolique », car on invente ensemble, dans l’histoire d’une communauté communicante tout objet technique.
16Ces phénomènes deviennent très inquiétants, justement, dans le cas de l’usage des écrans d’ordinateurs ou de smartphone chez les enfants, en raison des pathologies induites par les abus de l’écran : la pédopsychiatre Marie-Claude Boissière explique que les enfants qui à un an ou deux ans connaissent le monde à travers les écrans, ont des difficultés à quatre ans dans leur relation avec la profondeur de l’espace, donc avec la saisie d’un objet. Ils n’ont pas le sens de la profondeur. C’est exactement ce qu’expliquait Poincaré : il soutenait que pour évaluer la distance d’un objet, on imagine le geste, le mouvement pour l’atteindre et il affirmait aussi qu’un être immobile pourrait croire que le mouvement des objets sont des changements d’état. Ces enfants voient des changements d’état sur l’écran : il n’y a pas de mouvements, il y a des changements d’état sur un écran, des pixels qui passent de blanc à noir ou vice-versa. Ce n’est pas du mouvement. L’enfant est entraîné à voir des changements d’état et demeure immobiles face à l’écran : l’écran est plat, sans profondeur réelle, il ne permet pas de saisir ni donc de pratiquer le geste, le mouvement.
- 12 Lamberto Maffei, Il mondo del cervello, Laterza, 1998.
17Voici donc une exo-somatisation qui a un effet en retour sur la structure du cerveau, comme l’expliquait Lamberto Maffei, un éminent neurologue12 : on ne le voit pas encore, mais il y a sûrement chez ces enfants qui, dans leur petite enfance, ont été trop longtemps face aux écrans, des changements structurels dans le cerveau. On les a trouvés pour le violoniste, et il faudra les trouver pour ces enfants.
- 13 Jennifer Doudna and Samuel Sternberg, A crack in Creation, the new power to control Evolution, Lond (...)
18Ces considérations au sujet de l’exo-somatisation nous encouragent à prendre en compte le rôle de l’environnement dans l’évolution du vivant, contre le dogme de la biologie moléculaire qui domine actuellement. La question se pose de savoir si le Dogme Central de la biologie moléculaire est en train de donner de la place à l’épigénétique. Il faut toutefois reconnaître qu’il y a encore aujourd’hui une hégémonie totale du géno-centrisme : il suffit de suivre ce qu’il s’est passé dans le débat sur le vaccin ARN, et le rôle qu’ont ces nouvelles techniques d’editing. On voit monter en Europe le problème des OGM car avec cette nouvelle technique CrisprCase9, on nous raconte que ces manipulations sont naturelles et qu’on va faire des OGM « sains ». Mais que sont les OGM ? Les enfants directs du dogme central de la biologie moléculaire : il s’agit de piloter exactement l’organisme dans l’écosystème en modifiant les programmes génétiques, comme nous explique Jennifer Doudna, la toute dernière prix Nobel de chimie en 2020 – contrôler l’évolution, écrit-elle13.
- 14 Giuseppe Longo, « Programming Evolution: a Crack in Science. A Review of the book by Jennifer A. Do (...)
- 15 Frontiers Forum, The CRISPR health revolution | Thursday 31 March 2022 07:00-08:15 Los Angeles.
- 16 Walter Isaacson, The Code Breaker: Jennifer Doudna, Gene Editing, and the Future of the Human Race, (...)
- 17 C. Petit and G. Longo, « The Pandemic and the « techno-fix » ». Organisms. Journal of Biological Sc (...)
19Bref, Jennifer Doudna, centre son livre sur le dogme central14 : elle nous explique qu’il est possible de programmer l’évolution. Certains de ses « followers », soutiennent que nous allons pouvoir adapter l’homme, reprogrammant l’ADN, pour le rendre compatible au changement climatique15. À ce jour, Jennifer Doudna est la candidate la plus forte à la présidence du NIH américain qui dispose de 37 milliards de budget par an – il s’agit de la plus grande institution de recherche bio-médicale au monde. Rappelons aussi que face à la détresse ressentie pendant la pandémie, comme face aux inquiétudes éco-systémiques, ceux qui soutiennent ce dogme ont adopté un ton messianique. Ainsi, les suiveurs les plus enthousiastes de J. Doudna, qui nous promettent d’adapter par l’ADN les humains aux changements éco-systémiques16. Tout comme « on va éliminer tous les virus des voies aériennes supérieures » promet un projet financé par Bill Gates. Si nous parvenions à un tel résultat, nous serions tous morts, étant donné que 99 %, voire plus, des bactéries et des virus sont symbiotiques ou, au pire, indifférents. Pour le dire autrement, les (grands) organismes incompatibles avec plus de 1 % des bactéries ou des virus sont morts. Nous en sommes encore à ce niveau-là de mythes scientistes, et face à la crise, le messianisme du « techno-fix17 » redonne une vitalité incroyable à cette pseudo-culture, cette pseudo-science, qui mobilise une grande technicité.
L’importance de la mesure en physique et en biologie : l’outil comme accès au réel
20Je voudrais aussi aborder le thème de la mesure, c’est-à-dire de « l’accès » au « réel » ou de ce premier outil qui se pose à l’interface entre nature et observateur, entre objet et théorie. Pourquoi la mesure est cruciale ? Les outils de mesure qu’on a construits on fait démarrer la physique. C’est le cas de Galilée qui comprend immédiatement l’enjeu de la mesure physique. Il dessine une gaussienne dans ses analyses de la mesure, sans disposer du concept mathématique pour décrire ce qu’il se passe lors des mesures itérées. Puis, il y aura les changements fondamentaux dus à la physique quantique, à la relativité, où il y a un travail énorme sur la mesure – puisqu’il s’agit de l’accès au réel. En particulier, la mesure est au cœur du passage entre dynamique quantique dans un espace de dimension aussi infinie (l’équation de Schrödinger dans des espaces d’Hilbert, très abstraits, sur les nombres complexes), où ce qui se calcule, la dynamique, n’est pas ce qui est mesuré, car la mesure est une projection sur des espaces paramétrés sur les nombres réels et… tout change. Or, les symétries qui permettent de dériver l’équation de Schrödinger de l’hamiltonien sont continues (des propriétés de conservation) : l’importance de tout cela est cassée dans ce monde discret de la machine ou de la biologie du programme.
21La mesure physique, puis biologique, est écartée dans cette pratique numérique du monde, dans cette vision numérique du monde qui décrit le monde à « états discrets ». Évidemment, le monde n’est ni discret ni continu, il est ce qu’il est. Mais nous proposons des organisations très différentes du réel par les mathématiques du discret et du continu. Discret veut dire que la topologie discrète est naturelle, ce qui veut dire en mathématiques, informellement, que l’on peut y travailler, qu’elle a « un sens », comme sur les nombres entiers, mais sur les nombres réels cela ne fonctionne pas. Il s’agit d’un jugement mathématique de sens, par rapport au fait que la structure discrète soit « pertinente ». Or, quand il y a une structure discrète, l’accès à ladite structure est par définition exacte, donc il n’y a pas de problème de mesure. Ce qui est le cas dans les machines numériques : l’accès est exact, c’est pourquoi elle itère à l’identique, même dans la plus sauvage des turbulences – on peut la redémarrer exactement sur les mêmes pixels, si on veut on évite le « problème de la sensibilité aux conditions initiales ou aux contours ».
- 18 Maël Montévil, « Measurement in biology is methodized by theory », Biology & Philosophy, June, 34:3 (...)
22Ce qui est épatant, c’est qu’il y a des bibliothèques entières en physique quantique ou relativiste sur le rôle de la mesure, il y en a très peu en biologie, quoi qu’il y ait de bonnes pratiques, dans de bons laboratoires. Je crois que Maël Montévil a ouvert un chapitre nouveau sur la mesure en biologie, si peu analysée théoriquement18. Or, l’immense difficulté de la mesure biologique, c’est aussi qu’elle doit être synchrone et asynchrone. On doit connaître le passé : il y a un aspect diachronique, car la connaissance du passé est essentielle dans la mesure du présent. Donc l’outil technique qui doit accompagner cela présuppose une théorisation qui va bien au-delà d’une pratique : on a besoin d’une théorisation, aussi en biologie, de cette composante essentielle de l’interface entre nous et le réel, la mesure. Le travail seulement dans le discret réduit de façon inacceptable les problèmes posés par la mesure.
Réflexions sur les techniques mathématiques du « deep learning »
23Je voudrais maintenant parler un peu de la technosphère et des nouvelles évolutions technologiques. Prenons la self driving car, la voiture autonome : on en parle quasiment plus. Cette « mode » revient de temps en temps. En 2017, il y avait eu un conflit social avec les chauffeurs : le ministre de l’époque avait soutenu qu’avec les voitures autonomes, 700 000 chauffeurs seraient remplacés en France. Ce discours est symptomatique d’une menace permanente, celle du remplacement.
24Un autre exemple est celui de l’accent mis sur les succès dans des jeux, comme ces remarquables programmes qui ont vaincu les plus grands champions, Deep Blue aux échecs ou AlphaGo au Go. Ce sont des performances d’une grande technicité, surtout AlphaGo qui a appris en jouant contre lui-même, en trouvant un équilibre optimal entre méthodes d’optimum et statistiques. Évidemment, le message qui est envoyé à des jeunes qui passent leur temps sur des vidéos de jeux, consiste à leur dire « des machines gagnent contre le plus grand champion du jeu le plus difficile, par rapport à celles-ci, vous êtes des nullités, acceptez alors n’importe quelles conditions de travail, comme chez Amazon ». Au fond, la raison du battage publicitaire incroyable qui a accompagné ces victoires d’une technique sur des humains, est de faire passer ce message.
- 19 Pour des références et plus de discussion, voir Giuseppe Longo, Le cauchemar de Prométhée. Les scie (...)
25Ce message revient, puis passe, puisque ce sont des catastrophes ! AlphaGo, dans sa variante Watson, a été vendu en 2016 au Houston Cancer Center et ce printemps, après 5 ans et 50 millions de dollars d’investissement, ils ont arrêté le programme dont l’idée était de faire avec Watson des diagnostics et pronostics pour le cancer. Ils n’ont rien fait. Et pourquoi ? Je suis épaté, en tant que mathématicien de la calculabilité, du fait qu’il y a des problèmes de fond pour lesquels le fait d’utiliser ces mathématiques du deep learning peut être pertinent, mais cela demande de nombreuses précautions et a des limites majeures19. J’insiste, ces mathématiques sont remarquables, elles utilisent des techniques des « ondelettes », de « renormalisation » qui sont difficiles et profondes, qui viennent souvent de la physique mathématique. Toutefois, je n’ai vu aucune discussion au sujet des problèmes que j’ai eus en tant que maître de conférences en analyse numérique, au début de ma carrière : ceux qui se présentent lors du transfert des équations d’une dynamique dans le continu au discret. Premièrement, dès qu’il y a un peu de non-linéarité, c’est-à-dire des interactions entre agents, la dynamique discrète ne suit pas celle continue (très rapidement, elle n’en est plus une approximation). Cela pose d’énormes problèmes à toute utilisation de méthodes du continu (optimisation sous hypothèse de convexité, ellipticité, etc., largement utilisés dans le deep learning).
- 20 P. Giannini and G. Longo, « Effectively given domains and lambda-calculus semantics », Information (...)
26Deuxièmement, la question de la correction des programmes : est-ce que l’implantation, en particulier de programmes « embarqués » (par exemple, à bord d’une voiture), est correcte par rapport à la description abstraite, mathématique ? Il y a du travail informatique remarquable sur la correction des programmes de vol des avions, un exemple de grand succès de l’informatique embarquée. J’ai en particulier des amis et collègues qui ont fait des contributions théoriques et pratiques très importantes à des techniques qui permettent la preuve partielle de correction de programmes. Partielle, parce qu’une conséquence du théorème de Gödel interdit d’avoir une méthode formelle, calculable, de contrôle de correction des programmes – c’est-à-dire, d’en décider la correction ou l’équivalence (personnellement, j’ai caractérisé il y a longtemps les propriétés semi-décidables des programmes20). Mais on peut faire des contrôles partiels. La théorie des types, à laquelle j’ai travaillé, par exemple, est un contrôle de « dimension » dans le sens de la physique. On peut contrôler le type/dimension lors du déroulement d’un programme : si cela fonctionne, on n’a pas la preuve qu’il soit correct, mais on a de bonnes chances. C’est comme en physique avec le contrôle des dimensions quand on fait des calculs : ce n’est pas une preuve que le calcul est correct, mais, certainement, si on se trompe de dimension, on peut dire que ce n’est pas bon. Donc c’est un contrôle partiel. Et ces collègues font des réunions internationales, comparent différentes méthodes, et produisent ainsi des programmes de contrôle du vol remarquables. Qu’on aime ou pas l’aviation, en vingt ans tout a changé : les avions volent à 50 secondes l’un de l’autre, et seules des machines peuvent gérer cela, toujours dans l’interface pilote humain/ordinateur. C’est de la bonne informatique, faite avec des retombées de résultats théoriques remarquables, parfois d’une grande profondeur, comme l’analyse de la correction des programmes.
27Mais dans le cas des voitures automatiques, les chercheurs ne se posent même pas le problème. Et ils provoquent des morts et des accidents. C’est la raison pour laquelle ils ont arrêté et on n’en parle plus. Par exemple, en Arizona, il s’agissait d’une femme avec une grande jupe qui poussait une bicyclette et la voiture autonome l’a écrasée ; en Californie, il s’agissait d’un camion trop clair sur un ciel trop clair qui a fait une conversion en U sur une autoroute – la machine n’a rien compris. Nous ne conduisons pas en reconnaissant toutes les configurations possibles : nous conduisons comme nous allions à la chasse, en anticipant tout ce qui bouge. Cela n’a rien à voir. Que l’on puisse faire des choses formidables avec des machines pour de la reconnaissance d’images, oui. Mais dire que l’action dans l’éco-système, voire dans un contexte compliqué comme celui du trafic routier d’une ville, puisse être efficace en reconnaissant toutes les configurations possibles, c’est faux.
28Pourtant, il est possible de faire et l’on fait actuellement des choses excellentes avec la reconnaissance des images qui est très efficace, et l’on pourrait faire mieux si l’on se posait plus souvent le problème de l’interface humain/machine. Par exemple, en dermatologie, il existe une aide aux dermatologues par la reconnaissance d’images des maladies de la peau, qui est bien faite. Il y a un espace possible pour un usage intelligent de l’intelligence artificielle, au-delà des mythes politiques et financiers. Car nous faisons de la politique avec ce type de mythes, de même que l’on fait de la politique quand on dit qu’on va piloter l’évolution face aux problèmes de l’éco-système : l’idée sous-jacente est l’idée selon laquelle il est possible de ne rien changer au modèle de la croissance, car on aura une solution technologique pour chaque problème. Il semble donc nécessaire de réduire la part des mythes dans les recherches dans le champ du numérique ; comme en mathématiques, après les « résultats négatifs », c’est-à-dire après la compréhension des limites et hors des mythes, il devient possible d’inventer des nouvelles sciences et techniques.
Notes
1 Cet article est la transcription réécrite d’un exposé au colloque De la philosophie à l’organologie, et au-delà ? Penser le devenir des savoirs dans l’exosomatisation numérique. Colloque d’hommage à la pensée de Bernard Stiegler (Université Paris 8, Université Paris Nanterre, Université de Silésie), qui s’est tenu à Paris en juin 2022.
2 Nicholas Georgescu-Roegen, The Entropy Law and the Economic Process, Harvard University Press, Cambridge, 1971.
3 R. Koppl, S. Kauffman, G. Longo and T. Felin, « Economy for a CreativeWorld », Journal of Institutional Economics, Vol. 11, Issue 01, pp. 1-31, March, 2015.
4 Stephen J. Gould, The Structure of Evolutionary Theory, Harvard University Press, 2002.
5 V. Fleury and R. Gordon, « Coupling of Growth Differentiation and Morphogenesis, and Integrated Approach to Design in Embryogenesis », Origin of Design in Nature, Springer Verlag, 2011.
6 M. Montévil and M. Mossio, « Closure of constraints in biological organisation », Journal of Theoretical Biology, vol. 372: 179-191, 2015.
7 G. Longo and M. Montévil, Perspectives on Organisms: Biological Time, Symmetries and Singularities. Dordrecht, Springer, 2014.
8 A. Sarti, G. Citti, D. Piotrowski, « Differential Heterogenesis », Lecture Notes in Morphogenesis. Springer, 2022.
9 Giuseppe Longo, « Confusing biological twins and atomic clocks Today’s ecological relevance of Bergson-Einstein debate on time », A. Campo & S. Gozzano (Éds.), Einstein vs Bergson. An enduring quarrel of time, De Gruyter, 2021.
10 M-J. West-Eberhard, Developmental Plasticity and evolution, New York, Oxford University Press, 2003.
11 Giuseppe Longo, « How Future Depends on Past Histories and Rare Events in Systems of Life », Foundations of Science, pp. 1-32, 2017.
12 Lamberto Maffei, Il mondo del cervello, Laterza, 1998.
13 Jennifer Doudna and Samuel Sternberg, A crack in Creation, the new power to control Evolution, London, Bodley Head, 2017.
14 Giuseppe Longo, « Programming Evolution: a Crack in Science. A Review of the book by Jennifer A. Doudna and Samuel H. Sternberg A Crack in Creation: Gene Editing and the Unthinkable Power to Control Evolution », Organisms. Journal of Biological Sciences, 5(1), 516, 2021.
15 Frontiers Forum, The CRISPR health revolution | Thursday 31 March 2022 07:00-08:15 Los Angeles.
16 Walter Isaacson, The Code Breaker: Jennifer Doudna, Gene Editing, and the Future of the Human Race, NY, Simon & Schuster, 2022.
17 C. Petit and G. Longo, « The Pandemic and the « techno-fix » ». Organisms. Journal of Biological Sciences, Vol. 5, No. 2, 2021.
18 Maël Montévil, « Measurement in biology is methodized by theory », Biology & Philosophy, June, 34:35, 2019.
19 Pour des références et plus de discussion, voir Giuseppe Longo, Le cauchemar de Prométhée. Les sciences et leurs limites, Paris, PUF, 2023.
20 P. Giannini and G. Longo, « Effectively given domains and lambda-calculus semantics », Information and Control, 62(1):36–63, 1984.
Haut de pagePour citer cet article
Référence papier
Giuseppe Longo, « Le nez de Pangloss », Le Portique, 48-49 | 2024, 161-174.
Référence électronique
Giuseppe Longo, « Le nez de Pangloss », Le Portique [En ligne], 48-49 | 2024, document 10, mis en ligne le 30 avril 2024, consulté le 15 janvier 2025. URL : http://journals.openedition.org/leportique/4847 ; DOI : https://doi.org/10.4000/1302g
Haut de pageDroits d’auteur
Le texte seul est utilisable sous licence CC BY-NC-SA 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Haut de page