• 1 A. Turing, « Computing machinery and intelligence », Mind, vol. LIX, n^o 236, 1950, p. 433-460, tra (...)
• 2 On appelle « réseaux de neurones » des systèmes calculatoires inspirés des neurones biologiques qu (...)

1Le présent article vise à confronter d’un côté des dispositifs technologiques dans le domaine de la vision par ordinateur et de l’autre une conceptualisation philosophiquement motivée de la vision afin de déterminer dans quelle mesure la vision par ordinateur mérite ou non d’être appelée vision : les machines qui incorporent des dispositifs de vision par ordinateur y voient-elles vraiment quelque chose ? Il s’agit ainsi de tenter pour la vision ce que Turing tentait pour la pensée en demandant « les machines peuvent-elles penser ? » et en y répondant par son célèbre test1. Notre situation est par certains aspects plus favorable qu’elle ne l’était pour Turing. Quand celui-ci devait réfléchir de façon spéculative sans exemples crédibles de candidats au statut de machines pensantes, nous avons sous nos yeux des machines présentées comme des machines voyantes. Quand celui-ci ne trouvait pas à s’appuyer sur une théorie satisfaisante de la nature de la pensée, notre compréhension de la vision est certainement plus avancée, au moins sur le plan physiologique, et contribue à rendre la question d’emblée plus précise. Si l’on peut sur ces bases espérer que le problème vaut d’être posé autrement que dans une visée aporétique, il n’en reste pas moins qu’il s’agit d’un problème peu frayé. Le domaine de la vision par ordinateur se développe en faisant largement l’économie d’une réflexion épistémologique sur ses succès. L’interrogation sur les capacités cognitives des machines reste largement, dans le sillage de Turing, consacrée aux capacités cognitives les plus générales comme la pensée ou l’intentionnalité. Afin de ne pas errer en vain à travers ce territoire peu balisé, l’exploration que nous allons proposer se limitera à une technologie, celle des « réseaux de neurones »2, et à une conceptualisation, l’approche fonctionnaliste et représentationnelle.

• 3 E. R. Davies, Computer Vision: Principles, Algorithms, Applications, Learning, 5^e édition, Londres (...)

3Commençons par décrire le champ qui va nous intéresser. La vision par ordinateur est une branche de l’intelligence artificielle qui vise à rendre les machines capables d’utiliser des images. Ce domaine peut être défini en extension par le type de tâches qui sont réalisées dans ce cadre ou par le type de problèmes d’ingénierie qu’il s’agit de résoudre. Du premier point de vue, la tâche la plus simple est purement récognitionnelle : il s’agit pour la machine d’étiqueter des images sur la base d’une liste d’étiquettes déterminées. Par exemple, reconnaître des caractères et classer des images en fonction de la lettre de l’alphabet ou du chiffre qu’elles représentent. La tâche est déjà difficile car une même lettre peut prendre bien des aspects différents, selon la police adoptée ou selon les idiosyncrasies de l’écriture de celui qui l’a dessinée. Mais les images ne sont pas toutes comme les images d’un livre d’enfant dédiées à un seul objet qu’il s’agirait d’identifier. La deuxième tâche, moins contrainte et plus complexe, est d’identifier et de localiser tous les objets présents dans une image. Là encore, le problème n’est pas simple : les limites entre les objets sont affectées par l’éclairage, les objets peuvent être partiellement cachés ou se montrer sous des orientations différentes. Mais une image ne se réduit pas à un catalogue d’objets : les objets sont intégrés à une scène, ils ont des positions les uns par rapport aux autres et par rapport au capteur qui a produit l’image. La reconstruction d’une scène visuelle complète constitue la troisième tâche et la plus difficile, car la machine doit alors non seulement identifier des objets dans les images, mais reconstituer un paysage en trois dimensions et en perspective dans lequel ces objets prennent place. Ces trois types de tâches (classification, localisation, analyse de scène)3 permettent de résoudre des problèmes d’ingénierie variés, allant de la catégorisation simple (par exemple pour un logiciel de reconnaissance des caractères ou un dispositif d’identification faciale) à des systèmes robotiques intégrant traitement visuel, prise de décision et interaction avec l’environnement (que l’on pense aux dispositifs de vision par ordinateur qui sont intégrés aux équipements de conduite autonome et permettent à un véhicule de reconnaître la route qu’il s’agit de suivre, d’identifier les obstacles, mais aussi de lire les panneaux de signalisation). Si le terme de vision des machines (machine vision en anglais) est parfois réservé à ce second type de dispositifs, l’usage tend cependant à faire de vision par ordinateur (computer vision en anglais) et vision des machines des synonymes, indépendamment de l’intégration ou non à un système interagissant avec son environnement.

• 4 M. Boden, Artificial Intelligence, a Very Short Introduction, Oxford, Oxford University Press, 201 (...)
• 5 T. S. Huang, « Computer vision and promise », dans C. E. Vandoni éd., 19th CERN School of Computin (...)

4Au-delà de cette caractérisation en extension, la vision par ordinateur est définie par ses acteurs en référence à la vision humaine, comme c’est aussi le cas pour l’intelligence artificielle en général. Ainsi, de même que Margaret Boden peut définir l’intelligence artificielle en disant qu’elle consiste « […] à faire faire à des ordinateurs le genre de choses dont sont capables des esprits »4, de même, Thomas S. Huang, éminent expert du domaine, pouvait définir la vision par ordinateur en disant qu’elle cherche à « construire des systèmes autonomes capables de réaliser certaines des tâches que le système visuel humain peut accomplir (voire bien souvent de le surpasser) »5. La liste des tâches relevant de la vision par ordinateur est alors aussi ouverte que la liste des tâches que le système visuel humain peut accomplir, sans que la performance de celui-ci ne soit une référence absolue. En outre, la référence à l’humain n’est pas limitative du point de vue de l’origine des données : la vision par ordinateur peut exploiter des images produites à l’aide de capteurs sensibles à des longueurs d’ondes électromagnétiques hors du spectre visible ou via des mécanismes d’illumination active permettant d’exploiter des informations supplémentaires comme le temps mis par la lumière émise pour revenir vers son émetteur. Un ordinateur peut « voir » des choses que nous ne pouvons pas voir, soit parce que ses capacités de discrimination sont, dans un certain contexte, supérieures, soit parce que les entrées sensorielles dont il dispose sont plus larges.

• 6 S. J. D. Prince, Computer Vision: Models, Learning and Inference, Cambridge, Cambridge University (...)
• 7 Loc. cit.
• 8 M. Elgendy, Deep Learning for Vision Systems, Shelter Island, Manning Publications, 2020, p. 4. No (...)
• 9 Ces progrès sont visibles à travers les applications technologiques mentionnées précédemment, ils (...)

5Qu’en est-il alors de la vision par ordinateur ainsi décrite ? Doit-elle être assimilée à de simples mécanismes de détection, la nature visuelle de ces mécanismes se limitant au matériau sur la base duquel la détection s’opère, ou bien avons-nous affaire à d’authentiques dispositifs « voyants » ? Si l’on se rapporte à nouveau à la façon dont les praticiens du domaine décrivent leur activité, on verra des caractérisations tout à fait plates (la vision par ordinateur « extrait des informations utiles à partir d’images »6 comme l’écrit en sa première page le manuel de référence de Simon Prince) coexister, parfois dans une même phrase, avec des caractérisations franchement perceptives (la vision par ordinateur cherche à « construire des “machines voyantes” polyvalentes »7). Cependant, c’est bien un certain enthousiasme technologique et conceptuel qui prévaut. Comme l’indique le fait même que l’on parle de vision par ordinateur et pas simplement de détection d’images, la dimension perceptive est implicitement assumée. Ainsi pour Mohamed Elgendy, dans son introduction à l’apprentissage profond appliqué à la vision par ordinateur, « la vision par ordinateur prend en charge la perception visuelle [des systèmes d’intelligence artificielle] »8. Différents facteurs permettent d’expliquer cet enthousiasme, la référence à la vision humaine d’abord, s’agissant des tâches à accomplir, mais aussi souvent des moyens utilisés, les succès technologiques remportés ensuite, dans les tâches de classification d’images en particulier9, et enfin l’intégration au sein de systèmes capables d’interagir avec leur environnement. Ces explications ne valent cependant pas raison. La référence à la vision humaine n’engage pas nécessairement ce qui se passe lorsque les machines exécutent ces tâches. Les succès technologiques sont des succès dans des tâches que l’on pourrait redécrire en termes de détection pure. L’intégration à des systèmes robotiques pourrait ne pas changer la donne quant à ce qui est effectué par les parties dédiées à la vision. Et à l’inverse, on pourrait soupçonner des tendances à la prophétie techniciste, trop rapides à lire dans le présent ce qui est espéré pour le futur. On pourrait aussi soupçonner la promotion décomplexée d’une technologie aux enjeux commerciaux évidemment massifs d’être à l’œuvre derrière la qualification de ces systèmes comme systèmes perceptifs.

• 10 Loc. cit.
• 11 Dans son article, Turing fait le pari que des machines seront capables de gagner au jeu de l’imita (...)
• 12 Autrui peut certes décrire ce qu’il voit, mais un comportement linguistique est encore un comporte (...)

7Le critère behavioriste est une tentative de déclinaison visuelle du test de Turing. Il consiste à dire que nous ne possédons pas de meilleure base pour l’attribution de la vision que les différences comportementales qui nous permettent, par exemple, de distinguer un individu qui se déplace en s’orientant grâce à ce qu’il voit et un individu qui marche les yeux bandés. Ce critère est en phase avec la définition spontanée de la vision par ordinateur en référence aux performances humaines. Si la vision par ordinateur vise à faire faire à des machines ce que les humains font avec leurs yeux, et si voir consiste à pouvoir faire ce que les humains font avec leurs yeux, alors la réalisation des objectifs que s’assigne la vision par ordinateur coïnciderait avec l’apparition de machines voyantes. Les « machines voyantes » polyvalentes de Prince10 évoquées plus haut seraient bien des machines voyantes, précisément à la mesure de leur polyvalence. Cette approche a pour elle la double évidence du comportement bien soulignée par Turing11. Négativement, aller plus loin que des exigences comportementales risque de nous condamner à refuser d’attribuer la vision à autrui, puisque d’autrui nous ne connaissons que le comportement12. Positivement, un système intégré à nos sociétés qui fera tout ce que nous faisons avec nos yeux sera naturellement considéré comme un système voyant : l’application du concept de vision à des artefacts doit être envisagée comme un élargissement de son extension naturelle déterminée par nos pratiques, en l’occurrence par nos interactions avec ces artefacts, plutôt que comme le résultat d’une réflexion a priori sur des conditions d’application fixées une fois pour toutes.

• 13 H. J. Levesque, « On our best behaviour », Artificial Intelligence, vol. CCXII, n^o 1, 2014, p. 27- (...)

8Tout critère purement comportemental de la cognition s’expose à l’objection classique selon laquelle l’esprit est une manière de faire les choses et ne se réduit pas à une capacité à faire des choses. Hector Levesque propose un exemple frappant de cette objection dans le cas de la connaissance lorsqu’il compare différentes manières de répondre à la question « les crocodiles peuvent-ils faire du saut d’obstacle ? »13. Un humain répondra par la négative parce qu’il comprend que les petites pattes et la souplesse limitée de ces hôtes du marigot les rend inaptes à la détente. Un programme analogue à Watson, la célèbre machine construite par IBM pour jouer au Jeopardy! qui réussit en 2011 à battre les meilleurs spécialistes de ce jeu, pourra répondre par la négative après avoir consulté sa base de données et constaté qu’il n’y a quasiment pas de co-occurrences des termes « saut d’obstacle » et « crocodile ». Mais, si l’humain comme la machine sont capables de répondre correctement, seul le premier sait ce qu’il dit : la machine ne fait qu’exhiber un comportement certes couronné de succès, mais dont les ressorts ne sont pas cognitifs. Exactement de la même manière pour la vision, on pourra dire que la capacité de l’iPhone de tonton Antoine à se déverrouiller lorsque le visage de son propriétaire entre dans le champ de la caméra frontale et ma capacité à reconnaître tonton Antoine lorsque je vois son visage dans la foule sont deux capacités dont les ressorts sont différents. La technologie de reconnaissance faciale repose sur un système complexe d’identification de traits pertinents pour la comparaison entre les images captées par le dispositif et un échantillon d’images de référence du visage de tonton Antoine. Ma capacité à reconnaître tonton Antoine parmi les gens qui patientent sur le quai de la gare ne repose pas sur une liste de propriétés remarquables dont je vérifierais la présence une par une : elle repose directement sur ma capacité à voir tonton Antoine. Si l’humain comme la machine sont capables d’identifier correctement, seul le premier voit ce qu’il détecte.

• 14 Ibid., p. 435, nous retraduisons.
• 15 On appelle « écholocalisation » les dispositifs biologiques qui, comme chez les chauve-souris, per (...)

9À cette objection générale s’ajoute une objection spécifique, qui porte sur la possibilité d’isoler des comportements distinctifs de la vision. Dans le cas de la pensée, le jeu de l’imitation permet de rassembler en un seul test tous les aspects possibles de la pensée. C’est la motivation de Turing pour proposer un test qui prenne la forme d’un jeu de questions/réponses : « la méthode par questions/réponses semble permettre d’introduire selon notre bon vouloir pour ainsi dire n’importe lequel des domaines dans lequel les humains font leurs preuves »14. Il n’est pas du tout évident qu’il existe, dans le cas de la vision, un test ou une famille de tests comportementaux adéquats : la vision est associée certes à un ensemble de compétences, identifier des objets, se déplacer, capturer des proies ou attraper des objets, apprécier des paysages, mais on ne voit pas bien comment en extraire des conditions nécessaires ou suffisantes : d’un côté, ces compétences sont liées à la possession d’autres facultés (connaissance d’objets, capacité à se déplacer, à capturer ou à prendre, sensibilité esthétique), de sorte qu’elles ne seront pas de bonnes bases pour fournir des conditions nécessaires, de l’autre, ces compétences semblent pouvoir être exercées sur d’autres bases que la vision (par écholocalisation15 par exemple), de sorte qu’elles ne seront pas de bonnes bases pour fournir des conditions suffisantes.

• 16 Ibid., p. 445.
• 17 T. Nagel, « What is it like to be a bat? », The Philosophical Review, vol. LXXXIII, n^o 4, 1974, p. (...)
• 18 Voir D. Milner et M. Goodale, The Visual Brain in Action, Oxford, Oxford University Press, 1995, q (...)
• 19 Voir la présentation des différentes manières d’étudier l’entrée dans la conscience des stimuli vi (...)

10À l’opposé, le critère phénoménologique pose que la vision et l’expérience de la vision sont indissociables. Ce critère prend le contrepied du critère behavioriste et de la logique immanente au champ de la vision par ordinateur : il ne s’agit plus ici d’accomplissements et de prouesses technologiques, mais de la qualité phénoménale caractéristique de la vision. Voir, c’est faire une expérience du monde, il n’y a pas de vision s’il n’y a pas un effet que cela fait de voir. En première approche, l’attrait de ce critère consiste précisément dans ce contrepied. Face à la tentation de réduire la vision à des exercices de détection, on réaffirme que le collet ne voit pas le lapin, que la vision est perception visuelle et qu’à ce titre elle est indissociable de la conscience de ce qui est vu. Cette réaffirmation est l’analogue pour la vision de ce que Turing appelle l’objection de la conscience à la validité de son test pour la pensée en général16 : de même que la pensée ne doit pas être réduite à ses manifestations extérieures parce qu’elle est au moins en partie constituée du sentiment de la pensée et de différentes formes de conscience, de même la vision ne doit pas être réduite à la détection parce qu’elle est au moins en partie constituée d’une forme spécifique de conscience phénoménale. Comme précédemment et en vertu de l’analogie ainsi rappelée, ce critère tombe sous le coup d’une objection très générale à une spécification phénoménale des conditions d’attribution de la cognition. Indépendamment de la justesse de ce qui précède en tant que caractérisation de la vision en première personne, on peut douter que ce critère énonce des conditions d’attribution à d’autres que moi viables. Je peux me demander si j’ai vu quelque chose en me demandant si j’ai eu conscience de le voir, mais je ne peux pas décider si les autres voient, ou de ce que les autres voient, sur la base d’une expérience qui ne m’est pas accessible (même si des comportements linguistiques, par exemple, peuvent me renseigner indirectement sur cette expérience). Comme pour la pensée, l’application stricte de ce critère conduirait à une forme de solipsisme puisque la seule expérience de la vision à laquelle j’ai accès est la mienne. Mais il y a également des objections spécifiques à cette déclinaison du critère phénoménologique. En effet, le liage entre vision et conscience est plus contestable que le liage entre pensée et conscience. D’une part, la vision apparaît comme une capacité partagée avec des créatures auxquelles nous ne sommes pas nécessairement prêts à attribuer une forme de conscience phénoménale. Thomas Nagel demande quel effet cela fait d’être une chauve-souris17 et d’avoir une expérience distale du monde ancrée à la fois dans la vue et dans l’écholocalisation, parce qu’il suppose les chauves-souris suffisamment proches de nous pour qu’on ait envie de leur attribuer une forme de conscience phénoménale. Mais y a-t-il un effet que cela fait d’être une grenouille ? Or les grenouilles, autres hôtes du marigot, ne sont pas aveugles. Cette objection vaut même si la question n’est pas tranchée : notre usage du concept de vision ne semble pas présupposer une attribution de conscience phénoménale si nous n’hésitons pas à attribuer la vision quand nous hésitons à attribuer la conscience phénoménale. D’autre part, ce liage est problématique même au sein de l’espèce humaine. En atteste le phénomène bien documenté de la vision aveugle (blindsight). Les patients atteints de vision aveugle sont des patients cérébrolésés qui sont devenus partiellement aveugles (ils n’ont plus d’expérience phénoménologique de la vision dans une partie de leur champ visuel), mais qui demeurent capables de réagir aux objets présentés dans leur champ visuel amputé (par exemple en répondant correctement à des questions concernant l’orientation spatiale d’objets qu’ils déclarent pourtant ne pas voir)18. La dissociation entre traitement des informations visuelles et conscience perceptive s’observe également en l’absence de tout déficit, par exemple avec des images subliminales qui sont présentées au sujet pendant un laps de temps trop bref pour que celui-ci ait conscience de les voir, mais qui sont pourtant bien vues19. Ces deux types de phénomènes très différents semblent bien correspondre à des cas où la vision n’est pas accompagnée d’une expérience de la vision. C’est sans doute une des raisons principales pour lesquelles la question de la vision des machines vaut d’être posée indépendamment de la question générale de la pensée des machines : les conditions d’attribution de la vision semblent pouvoir faire l’économie de l’attribution de différentes formes de conscience à la machine, de sorte que le débat particulier s’agissant de la vision apparaît moins piégé et possiblement plus fécond que le débat général concernant la pensée.

• 20 Les représentations en question sont à entendre en un sens lui-même fonctionnaliste, voir plus bas
• 21 Pour une discussion systématique et une présentation d’approches rivales du représentationnalisme (...)
• 22 Le lidar, acronyme anglais pour light detection and ranging, est un dispositif qui utilise les ond (...)
• 23 P. Jacob et M. Jeannerod, Ways of Seeing: The Scope and Limits of Visual Cognition, Oxford, Oxford (...)
• 24 J. Gibson, The Perception of the Visual World, Boston, Houghton Mifflin, 1950.

11Reste à explorer l’énoncé de conditions d’attribution fonctionnalistes, voie médiane consistant à ne pas se contenter d’évaluer les performances des dispositifs sans pour autant exiger la présence d’une phénoménologie propre à l’expérience visuelle. Positivement, il s’agit de penser la vision comme une certaine fonction cognitive, et de spécifier cette fonction en termes de production de représentations. Tentons la caractérisation suivante : un système est doté de vision pour autant qu’il produit à partir de stimuli visuels des représentations internes20 fournissant des informations sur son environnement susceptibles d’être exploitées par ce système. Cette caractérisation fonctionnaliste de la vision prête le flanc à la critique à plusieurs titres. Premièrement, on pourrait contester son parti-pris représentationaliste. Si les théories fonctionnalistes de l’esprit font souvent l’hypothèse que l’esprit manipule des représentations mentales, d’autres conceptions de la perception visuelle, y compris dans un cadre fonctionnaliste, sont possibles. Nous ne nous livrerons pas ici à une défense du représentationnalisme pour la perception visuelle, qui nous écarterait de nos buts21. Deuxièmement, on pourrait s’inquiéter d’une simplification excessive dans la description de la fonction. Il faudrait en dire plus s’agissant de ce qu’est un stimulus visuel : un dispositif recueillant les ondes lumineuses renvoyées comme le lidar22 traite-t-il des stimuli visuels ? Troisièmement, il faudrait qualifier les représentations dont il est question : s’agit-il de représentations conceptuelles, la vision représentant dans la mesure où elle catégorise, ou bien s’agit-il de représentations non conceptuelles, la vision donnant accès à des contenus plus riches que ce que peuvent explicitement saisir nos concepts ? Enfin, il faudrait préciser ce que veut dire exploiter des représentations visuelles : s’agit-il forcément de servir de base à des croyances sur le monde, ou les représentations visuelles viennent-elles aussi nourrir des mécanismes qui ne sont pas de nature doxastique ? Il n’y a pas chez les philosophes de l’esprit fonctionnalistes de consensus quant aux réponses à apporter à ces questions. Nous considérons que nous pouvons ici les laisser de côté. Notre hypothèse de travail sera que la caractérisation proposée est féconde à son niveau de généralité, et qu’il n’est pas nécessaire pour traiter le problème de la vision des machines de fournir une théorie complète des représentations visuelles. Nous renvoyons cependant le lecteur soucieux de voir à l’œuvre le détail d’une théorie représentationaliste de la vision humaine à l’ouvrage de Pierre Jacob et Marc Jeannerod, Ways of Seeing23, qui propose sous le titre de théorie représentationnelle de l’esprit visuel (representational theory of the visual mind) une théorie remarquablement élaborée et étayée de la nature des représentations visuelles. Leur théorie représentationnelle de l’esprit visuel constitue un bon exemple de théorie fonctionnaliste complète de la vision. Elle s’oppose à des théories de la perception directe comme la théorie écologique de James Gibson24, laquelle pourrait cependant aussi fournir une base intéressante pour une analyse de la vision par ordinateur, qui pourrait mettre l’accent sur le rôle de l’apprentissage dans la détermination de la façon dont l’environnement offre prise à l’action de la machine.

• 25 I. Goodfellow, Y. Bengio et A. Courville, Deep Learning, Cambridge, The MIT Press, 2016, p. 5. Nou (...)

14On peut expliquer la différence entre les techniques courantes d’apprentissage machine, comme la régression logistique ou les arbres de décision, parfois regroupées sous le terme d’apprentissage superficiel (shallow learning), et les réseaux de neurones reposant sur l’apprentissage profond (deep learning) en disant que les premières consistent à trouver les meilleures combinaisons de traits permettant de résoudre un problème tandis que les secondes consistent à apprendre les traits qu’il faut utiliser pour représenter les données de façon à pouvoir résoudre le problème. Un algorithme d’apprentissage machine superficiel pourra ainsi apprendre à prédire le défaut de crédit en trouvant comment combiner les différentes propriétés des emprunteurs qui lui sont présentées (âge, revenu, historique, taux d’endettement, etc.) pour calculer un score prédicteur de la solvabilité. La promesse de l’apprentissage profond et des réseaux de neurones consiste à ne pas dépendre de traits présélectionnés, mais à réussir à apprendre à représenter les données qui sont fournies en en dégageant des propriétés complexes pour réaliser la tâche assignée : « l’apprentissage profond résout le problème central consistant à apprendre à représenter [les données] en introduisant des représentations qui sont exprimées en termes d’autres représentations plus simples »25.

• 26 Nous mettons à disposition le code pour la construction et l’entraînement d’un tel réseau de neuro (...)
• 27 Le code (ibid.) qui accompagne le présent article propose d’abord la construction d’un réseau simp (...)
• 28 Voir I. Goodfellow, Y. Bengio et A. Courville, op. cit., chap. IX.

15Voyons comment ce travail de production de représentations s’opère dans le cas de la vision en prenant l’exemple d’une tâche de détection élémentaire comme la reconnaissance de chiffres. On donne à un réseau de neurones26 des images, sous forme d’une matrice de, disons, 28 par 28 pixels distingués par leur niveau de gris ; chaque image représente un chiffre et le réseau doit dire de quel chiffre il s’agit. L’entrée du réseau de neurones est constituée par 28×28 = 784 neurones, chacun prenant une valeur entre 0 (noir) et 1 (blanc) selon le niveau de gris de l’image. La sortie du réseau de neurones est constituée par 10 neurones correspondant aux 10 chiffres de 0 à 9 possiblement représentés par l’image. Pour une entrée donnée, la valeur rendue par chacun de ces neurones va correspondre à la probabilité attribuée par le réseau au fait que l’image représente le chiffre correspondant. Lors de l’entraînement, les poids du réseau de neurones sont optimisés pour que, par exemple, lorsque l’image fournie est celle d’un 9, la valeur du dernier neurone de sortie soit le plus proche possible de 1, et la valeur de tous les autres neurones le plus proche possible de 0. Entre ces deux couches, le réseau consiste en une série de couches intermédiaires de neurones. Dans la version la plus simple27, le réseau est dépourvu d’architecture interne spécifique : les neurones d’une couche donnée voient leur valeur déterminée par tous les neurones de la couche inférieure, selon les poids de chacun et selon la fonction d’activation utilisée (la valeur prise par un neurone est, à un facteur additif près, la moyenne pondérée des neurones qui sont reliés à lui, le tout modulé par une fonction d’activation qui permet par exemple d’annuler toutes les valeurs négatives). Dans les versions plus complexes, le réseau est pourvu d’une architecture spécifique. Dans le domaine de la vision par ordinateur, une architecture particulièrement efficace est celle des réseaux convolutifs28 : les couches intermédiaires comprennent des couches qui ne sont pas maximalement connectées, mais consistent en des sortes de filtres appliqués aux différentes zones de l’image et à même de détecter des configurations spécifiques, comme une ligne ou un angle, à différents endroits d’une image. Sans les couches intermédiaires, la tâche de classification serait pour ainsi dire impossible : il n’y a pas directement de distribution spécifique des points sur l’image qui corresponde au chiffre 0 ou au chiffre 7. On reconnaît un 0 à la présence d’un unique beignet allongé, mais ce cercle peut se trouver à différents endroits de l’image. On reconnaît un 7 à la présence de deux traits, l’un court et horizontal et l’autre long et oblique formant un certain angle, mais cet angle peut être plus ou moins aigu. Le rôle des couches intermédiaires est alors crucial parce qu’il consiste précisément à identifier les traits de l’image qui vont permettre au réseau de parier sur un 0 ou un 7. Dans le cas des réseaux convolutifs par exemple, chaque convolution va filtrer l’image d’une certaine façon, en modifiant les contrastes, ou en détectant une certaine configuration (par exemple une ligne), ou encore en détectant des configurations de convolutions plus élémentaires (par exemple, une composition de lignes). Les neurones de la pénultième couche se laissent alors interpréter comme constituant une représentation de l’image en termes de certaines propriétés que le réseau a appris à détecter lors de l’entraînement et qui sont utilisées par les neurones de la dernière couche pour faire la prédiction finale quant au chiffre à identifier. C’est dans le fait que les propriétés représentées aient été apprises que réside la différence majeure avec l’approche par programmation explicite : aucune théorie de la reconnaissance de chiffres n’a été utilisée pour implémenter des règles spécifiques quant à la bonne manière de traiter l’image.

• 29 Le programme proposé en accompagnement du présent inclut un module pour l’extraction de prototypes

17À titre de premier test, commençons par remarquer que savoir reconnaître des chiffres est naturellement associé à la capacité à acquérir une certaine image prototypique des chiffres en question : à l’enfant qui a appris les chiffres, on peut demander d’en dessiner un. Savoir reconnaître un huit implique ainsi d’avoir une ou des images prototypiques de huit (que la détection passe ou non par la comparaison avec des prototypes). Si donc la machine est vraiment capable de produire une représentation de l’image qu’elle reçoit et de reconnaître des chiffres sur la base de cette représentation, on s’attend à ce qu’émergent des prototypes, c’est-à-dire des images dont la représentation corresponde exactement aux propriétés que la machine associe à tel ou tel chiffre, ou encore, pour employer un langage plus imagé, à la manière dont la machine se figure tel ou tel chiffre. Et c’est bien le cas : à l’issue de l’apprentissage, on peut accéder à l’image prototypique pour le réseau d’un chiffre particulier en demandant à ce réseau de montrer une image qui maximise la probabilité attribuée à ce chiffre (ces prototypes correspondent parfois, mais pas toujours, à ce qu’un humain pourrait lui-même dessiner !29).

• 31 On entend par théories téléosémantiques les théories visant à naturaliser la notion de représentat (...)
• 32 J. A. Fodor, A Theory of Content and Other Essays, Cambridge, The MIT Press, 1990, p. 71-72.

21Un des principaux problèmes rencontrés par les théories comme celle de Dretske concerne la détermination du contenu des représentations31 : comme le montre en toute généralité Fodor32, la spécification de leur contenu en termes de covariation fonctionnelle semble sous-déterminer celui-ci, dans la mesure où tout contenu « fiablement co-extensionnel » à un contenu représenté sera également représenté. Si le système visuel de la grenouille représente les mouches, il représente tout aussi bien les petits points noirs virevoltant puisque, dans l’environnement de la grenouille, il y a en général mouche lorsqu’il y a petit point noir virevoltant, ou bien les choses à manger, puisqu’il y a en général mouche lorsqu’il y a chose à manger. Ce problème affecte aussi bien la description de la vision par ordinateur. Considérons le système constitué par un réseau de neurones entraîné à reconnaître des chiffres couplé à une caméra comme évoqué précédemment. En amont, on pourra soutenir que le système représente non pas des chiffres, mais des pixels, ceux-ci covariant avec ceux-là et permettant également au système de remplir sa fonction. En aval, on pourra soutenir que le système représente des choses-pour-la-catégorisation et non véritablement des chiffres.

• 33 I. Goodfellow, Y. Bengio et A. Courville, op. cit., p. 268 sq. : les auteurs expliquent bien en qu (...)
• 34 Voir Y. LeCun, C. Cortes et C. J. C. Burges, « The MNIST database of handwritten digits ». En lign (...)
• 35 Voir I. Goodfellow, Y. Bengio et A. Courville, op. cit., p. 517 sq.
• 36 Ibid., p. 353 sq., pour une présentation rapide des bases de cette analogie.
• 37 On trouvera une présentation détaillée de l’apprentissage de représentations visuelles hiérarchiqu (...)

23Si les réseaux de neurones constituent bien des machines à représenter, une analyse de leur fonction de représentation pourrait à rebours nous sortir de cette ornière en nous mettant sur la piste d’un concept plus riche de représentation. Nous avons dit en effet que les théoriciens des réseaux de neurones et de l’apprentissage profond considéraient spontanément que l’originalité de ces méthodes relativement à d’autres méthodes d’apprentissage machine (machine learning) consistaient à produire des représentations. Mais sur quelles propriétés des réseaux de neurones ce diagnostic s’appuie-t-il ? L’observation des pratiques en la matière permet de dégager trois propriétés, valables pour le domaine en général et pour son application à la vision en particulier. Premièrement, les représentations apprises doivent être robustes33. La clef de l’apprentissage réside dans sa capacité à généraliser, on considère que le réseau a appris à reconnaître des chiffres s’il obtient des résultats satisfaisants non seulement pour les données sur lesquelles il a été entraîné, mais aussi pour des données du même genre qu’il n’a jamais « vues », et encore plus sur des données d’origine ou d’apparence différentes. Par exemple, on se demandera si notre réseau entraîné à reconnaître des chiffres à partir de la base de données MNIST34 est capable de reconnaître des chiffres positionnés un peu différemment ou des chiffres que nous écrivons nous-mêmes à la main avec différents types de stylos ou de styles d’écriture. Deuxièmement, les représentations apprises doivent être versatiles (on parle en anglais de transfer learning ou de feature reuse)35. Elles doivent pouvoir être recyclées pour servir à l’exécution de tâches un peu différentes de la tâche initiale. Par exemple, les représentations apprises par notre réseau de neurones devraient pouvoir être utilisées pour une tâche reposant sur la reconnaissance de chiffres, comme la reconnaissance de nombres, ou pour une tâche analogue à la reconnaissance de chiffres, comme la reconnaissance de lettres. Dans le domaine de la vision par ordinateur, le succès des approches neuronales repose précisément en grande partie sur la possibilité de réutiliser des réseaux de neurones pré-entraînés en affinant (on parle de fine-tuning) les représentations apprises lors de l’entraînement initial. Troisièmement, les représentations produites sont des représentations composées, typiquement des représentations hiérarchiques qui reposent sur la détection de traits complexes, reposant elle-même sur la détection de traits plus simples. Il en va de ce point de vue des réseaux de neurones artificiels comme des réseaux de neurones biologiques36. Le traitement de l’image repose dans un premier temps sur la détection de schémas élémentaires, par exemple des lignes et des coins, qui sert de base à la détection de formes, par exemple des ellipses, des rectangles ou des croix, formes qui sont à leur tour utilisées pour identifier des parties d’objet, par exemple une roue ou un moteur, parties d’objet qui permettent enfin l’identification d’objets comme des vélos ou des motos37. La fonction de représentation d’un réseau de neurones ne se réduit pas à la mise en place téléologique d’une covariation entre les états du réseau et le représenté : elle repose sur la production d’états internes composés, liés de façon robuste et versatile aux données et aux tâches.

• 38 F. Dretske, op. cit., p. 30.

25Ce qui précède constitue de fait une réponse à la seconde critique adressée aux théories téléosémantiques. Qu’en est-il de la première critique ? Notre concept enrichi de représentation fonctionnelle permet-il de remédier à la sous-détermination du contenu des représentations ? Sous sa forme la plus générale donnée par Fodor, le problème vient de ce que tous les éléments « fiablement co-extensionnels » avec le contenu intuitivement représenté comptent aussi comme objets de la représentation. Dans la mesure où il ne suffit plus d’être fiablement co-extensionnel, mais que des réquisits supplémentaires doivent également être satisfaits, les choses s’améliorent même si le problème n’est pas forcément entièrement résolu. Reprenons, pour le cas de la sous-détermination aval, l’exemple de la grenouille. Tout dépend de ce qu’on considérera comme une variation acceptable des types d’entrées sensorielles et du détail des mécanismes biologiques. Dans la mesure où l’évolution a sélectionné ces mécanismes pour la détection des mouches, mais pas pour la détection des points virevoltants, il est possible, mais pas garanti, que certains types de points virevoltants ne déclenchent pas de réaction de la part de la grenouille alors que de vraies mouches le feraient. Un autre exemple souvent discuté dans ce contexte est celui de bactéries marines disposant d’aimants internes leur permettant de s’orienter vers le nord magnétique ce qui, dans l’hémisphère nord, les amène vers le fond et leur permet d’éviter les eaux de surface pauvres en oxygène38. La question est de savoir si ces bactéries magnéto-tactiques représentent le contenu sélectionné par l’évolution (la présence d’oxygène) ou un contenu extensionnellement équivalent dans leur environnement naturel des eaux de l’hémisphère nord (le pôle magnétique). Dans la mesure où, dans l’hémisphère sud, ce dispositif amènerait ces bactéries vers la surface de l’eau et vers la mort, la condition de robustesse permet d’exclure la représentation de l’oxygène et reste compatible avec la représentation du pôle magnétique. Il nous semble que ce verdict est satisfaisant, si les bactéries magnéto-tactiques représentent quelque chose, il s’agit de propriétés magnétiques. Rappelons qu’il n’y aura cependant représentation que si le réquisit de composition est également satisfait, ce qui semble plus probable dans le cas de la grenouille, où le succès repose sur la détection d’une combinaison de traits en termes de formes ou de couleur et de mouvement, que dans le cas de la bactérie, où il s’agit simplement d’alignement avec le champ magnétique.