Navigation – Plan du site

AccueilNuméros39Le traitement automatique des lan...

Le traitement automatique des langues : tendances et enjeux

Thierry Poibeau
p. 7-65

Résumés

Le traitement automatique des langues (TAL) est un domaine de recherche pluridisciplinaire, à l’intersection de la linguistique et de l’informatique, qui vise à mettre au point des programmes informatiques pour l’analyse des langues par ordinateur. Ce domaine de recherche est apparu au début des années 1950, en même temps que la mise au point des premiers ordinateurs. Il s’est depuis largement diversifié et les applications de traitement automatique des langues se sont imposées dans la vie courante, que ce soit à travers les correcteurs orthographiques, les outils de traduction automatique ou la commande à la voix des téléphones portables ou des enceintes connectées. Au-delà de l’aspect parfois gadget des applications courantes, cet article essaie d’expliquer les difficultés de la tâche et les grandes évolutions du domaine ; il vise, en outre, à dresser un panorama des recherches en cours et des outils disponibles. Cet article est aussi l’occasion d’une réflexion sur la place de la linguistique dans le paysage actuel de la recherche en traitement automatique des langues.

Haut de page

Plan

Haut de page

Texte intégral

Cet article a bénéficié de la relecture attentive et bienveillante d’Audrey Mathys, de Pedro Duarte et de Frédérique Fleck. Leurs remarques ont permis d’en améliorer grandement le contenu : qu’ils en soient remerciés ! Toutes les éventuelles erreurs et imprécisions demeurant sont évidemment de mon fait.

1. Introduction : quelques remarques sur la situation actuelle du traitement automatique des langues et sur la place de la linguistique en son sein

  • 2 Sabah (1988 et 1989), Poibeau (2003 et 2011) et Léon (2015).

1Le traitement automatique des langues (TAL) est un domaine de recherche pluridisciplinaire à l’intersection de la linguistique et de l’informatique2. En guise de définition liminaire, on peut dire que le TAL concerne essentiellement l’analyse des langues au moyen d’un ordinateur. Le TAL est aussi connu sous diverses appellations qui traduisent parfois des nuances au sein de ce vaste domaine de recherche : on parle par exemple d’« ingénierie linguistique », quand l’accent est mis sur les aspects pratiques et opérationnels, ou de « linguistique informatique », quand c’est la linguistique qui tient un rôle important dans les recherches. Notre définition est aussi trop restrictive dans la mesure où le TAL recouvre également la « génération de texte », c’est-à-dire la production (et non l’analyse) automatique de textes, thème de recherche populaire aujourd’hui, à l’heure des agents conversationnels et autres gadgets fondés sur une interaction avec l’utilisateur (pour qu’il y ait interaction, il faut prévoir à la fois une étape d’analyse et une étape de génération).

  • 3 Adda-Decker et al. (2014).

2Il faut dès à présent souligner que ce domaine a subi des mutations extrêmement importantes en quelques années, et que ce qui se fait aujourd’hui sur le plan technique n’a plus grand chose à voir avec ce qui se faisait il y a encore quelque temps de cela3. Du point de vue du grand public, le domaine a longtemps été connu essentiellement à travers les correcteurs orthographiques et les traducteurs automatiques, qui étaient de surcroît souvent de qualité médiocre. À l’inverse, il existe aujourd’hui de plus en plus d’applications visibles, opérationnelles et relativement efficaces. Tous les problèmes ne sont pas résolus et les systèmes automatisés font toujours des erreurs, mais le domaine a connu ces dernières années des réussites indéniables. La qualité des traductions, au moins du français vers l’anglais, devient de plus en plus satisfaisante, on peut maintenant converser avec un agent artificiel de manière relativement efficace (on pensera à Siri d’Apple, à OK Google ou à Alexa d’Amazon), les moteurs de recherche sont de plus en plus précis et corrigent d’eux-mêmes certaines fautes de frappe, suggèrent des alternatives, etc. Pour la première fois depuis quelques années, des applications se répandent et sont utilisées par le grand public.

  • 4 Gilleron (2019).

3La situation présente s’explique par des progrès récents extrêmement importants, qui n’ont pas grand-chose à voir avec la linguistique, mais qui sont avant tout techniques. Deux éléments principaux expliquent pour l’essentiel la situation présente (et plus généralement les progrès relativement réguliers depuis 25 ans) : d’une part la masse de données textuelles disponible sur Internet ; d’autre part la puissance de calcul des machines, en constante augmentation. Le développement de ce que l’on appelle l’« Intelligence artificielle » et, au sein de ce domaine, le développement de l’« apprentissage artificiel », a considérablement renouvelé le TAL4 : contrairement à ce que l’on pensait il y a encore quelques décennies (et contrairement à ce que pensent encore aujourd’hui certains collègues, probablement), il est extrêmement efficace d’« apprendre » depuis les données. Nous reviendrons sur ce terme : il s’agit d’un abus de langage, l’ordinateur n’apprend rien à proprement parler, mais on a aujourd’hui accès à tant de données qu’il est possible de repérer des régularités et plus globalement des « faits de langue » en quantité suffisante pour obtenir des systèmes efficaces et capables d’analyser et même de produire des phrases variées et complexes, dans une multitude de langues.

  • 5 Poibeau (2017).

4On a longtemps pensé que le développement d’un système de traduction automatique, par exemple, nécessitait de formaliser sur ordinateur toute la langue et même les connaissances de sens commun, car celles-ci sont nécessaires pour déterminer le sens en contexte5. Pour prendre un exemple simple et un peu artificiel, si on me dit : « L’avocat est entré dans la pièce », je comprends immédiatement que « l’avocat » désigne un humain exerçant un métier lié à la justice, qu’il est probablement le défenseur d’une personne accusée de quelque chose, etc. Je ne vais pas considérer l’option « avocat qui se mange » (avocat fruit) car cette acception serait très étonnante ici : un avocat (fruit) se mange, mais n’entre pas dans une pièce car il ne peut pas se mouvoir. Cela est évident pour tout le monde, c’est même enfoncer une porte ouverte que de le dire. Mais si je développe un système automatique, je vais avoir affaire à un mot (« avocat »), avec au moins deux significations (et peut-être plus, il peut aussi être l’avocat des parties civiles, ce qui est différent du sens le plus commun du mot « avocat » comme « homme de loi, qui défend un accusé » etc.), et il faudra que je conçoive des règles capables de prédire le sens en contexte. Or, il s’agit d’une connaissance difficile à modéliser. L’ordinateur, lui, va analyser les contextes d’apparition du mot à partir de très grands corpus, en tirer des régularités (simplement via des cooccurrences, c’est-à-dire des associations de mots apparaissant ensemble) qui permettent une désambiguïsation (c’est-à-dire le choix d’un sens parmi un ensemble de sens) assez efficace, en tout cas plus efficace que ce que ferait n’importe quel humain après un très long travail d’analyse manuelle.

  • 6 Navigli (2009).

5Cela est particulièrement vrai pour une tâche comme la désambiguïsation sémantique, c’est-à-dire la tâche consistant à trouver le sens d’un mot en contexte parmi un ensemble de sens possibles listés dans un dictionnaire6. Il existe 50 000 mots dans un dictionnaire courant (et bien davantage si on prend en compte les mots composés). Il est dès lors impossible pour un humain d’énumérer tous les contextes possibles et de concevoir des règles de désambiguïsation efficaces en pratique : personne ne peut imaginer tous les emplois d’un mot, et même en se fondant sur des dictionnaires et des encyclopédies, la tâche reste quasi impossible car il faut aussi considérer les textes réels, pour voir l’usage réel des mots en contexte. L’ordinateur est au contraire infiniment efficace pour cela : il va enregistrer sans problème, en un instant, tous les contextes possibles pour tous les mots du dictionnaire et, si un programme efficace a été conçu, il va même pouvoir analyser le sens des mots automatiquement en examinant la diversité et la dispersion des contextes observés (plus un mot apparaît dans des contextes variés, plus il a des chances d’être polysémique).

6Évidemment, comme on l’a dit, même avec les progrès récents, les systèmes ne sont pas parfaits. Il existe toujours des contextes difficiles ne permettant pas une désambiguïsation aisée des mots : il faut que le système dispose d’assez de données pour inférer des règles efficaces ; il faut que le domaine visé soit proche du domaine qui a servi à mettre au point le système initial, sinon le processus ne va pas fonctionner, etc. Ainsi, la traduction automatique fonctionne relativement correctement pour les langues indo-européennes bien représentées sur Internet. Les systèmes sont nettement moins bons quand il s’agit de traduire vers le chinois, l’arabe ou le japonais : bien que l’on dispose de données et que de nombreuses recherches aient été faites, la structure et la complexité des langues jouent évidemment un rôle, et il est plus difficile de traduire vers des langues distantes que vers des langues proches. On voit cela aussi pour les langues indo-européennes. Il est par exemple plus facile de traduire de l’allemand vers l’anglais que de l’anglais vers l’allemand car on sait relativement bien analyser les mots composés de l’allemand, mais on sait beaucoup moins bien comment produire des mots composés bien formés en allemand.

7Il n’empêche : on a aujourd’hui affaire à des masses de données si grandes, au moins pour quelques langues « dominantes » et bien représentées sur Internet, que les approches automatiques sont devenues très efficaces et elles sont même utilisées dans différents cadres opérationnels. La recherche est devenue depuis 25 ans de plus en plus technique, informatique voire mathématique, laissant au second plan (voire au dernier plan) la linguistique : pour le dire très directement, la linguistique a quasiment disparu des conférences de TAL, au moins la linguistique telle qu’on la connaît traditionnellement. Ce que l’on appelait « grammaire formelle » par exemple avait non seulement sa place dans le domaine, mais elle occupait même une place centrale. On partait alors de l’idée que les données brutes (c’est-à-dire les corpus) étaient trop disparates pour pouvoir être analysées directement. Une étape de normalisation et de formalisation était nécessaire au préalable pour parvenir à une analyse réellement opérationnelle. Les approches récentes, à l’inverse, se fondent directement sur l’analyse de corpus massifs, par des techniques brutes (on voit depuis une dizaine d’années un quasi-monopole des réseaux de neurones, à travers ce que l’on appelle « l’apprentissage profond » ou le « deep learning ») sans préanalyse du corpus.

  • 7 Lebart et Salem (1994).

8Ces aspects opérationnels connaissent des succès indéniables mais ne doivent pas cacher certaines faiblesses. On sait que la distribution du lexique est très hétérogène (c’est ce que montre la loi de Zipf) : quelques mots sont très fréquents (les articles, les prépositions, etc.), mais beaucoup d’autres mots sont très peu fréquents en corpus (même avec un très gros corpus, on trouvera beaucoup d’hapax et plus généralement de mots apparaissant seulement quelques fois) et, entre les deux, une zone réduite de mots relativement fréquents (les noms et les verbes les plus courants par exemple). La langue suit généralement ce modèle7 : quelques règles de grammaire s’appliquent quasiment à toutes les phrases (la présence d’un sujet dans la phrase, par exemple, et le fait que celui-ci précède généralement le verbe, etc.) tandis que beaucoup de règles ne s’appliquent que dans de très rares cas. Les mots ont de très nombreux sens rares (d’un simple point de vue statistique) que l’on peut quasiment négliger si on souhaite développer un système opérationnel généraliste (le système fonctionnera bien dans la plupart des cas), etc. C’est ce qui explique à la fois le succès des systèmes mis au point sur le plan opérationnel, et en partie la quasi-disparition des linguistes de ce domaine.

9Ainsi, dans les années 1980, la Commission européenne avait lancé un grand programme de recherche transnational autour de la traduction automatique. Le but était de produire des systèmes opérationnels, ou du moins « à l’état de l’art » (c’est-à-dire au meilleur niveau des performances d’alors), entre les principales langues européennes. Quelques années plus tard, de nombreuses thèses avaient été produites sur la négation (ou, plus exactement, sur la portée de la négation) dans différentes langues européennes et sur la façon d’en rendre compte d’une langue à l’autre. Il s’agissait probablement d’un problème linguistique intéressant, mais cela n’avait quasiment aucun intérêt pratique pour la traduction automatique (si l’on cherche à traduire des articles de journaux, la portée de la négation est rarement un problème). Il s’agit là d’une anecdote, mais elle révèle bien, à notre avis, l’écart entre les préoccupations des linguistes et celles des informaticiens.

10Cet écart s’est sans doute réduit depuis les années 1980 (Internet est « passé par là », de même que le recours aux corpus massifs et aux outils automatiques, même pour les linguistes éloignés du TAL : on peut bien évidemment continuer à faire de la linguistique sans avoir systématiquement recours à l’ordinateur (et c’est heureux !), mais, d’un autre côté, le TAL est devenu tellement technique qu’il n’est pas facile pour un linguiste d’y trouver sa place. Depuis 25 ans les experts prédisent que les performances vont atteindre un « plateau » et que les systèmes, pour progresser, vont devoir intégrer « davantage de linguistique », mais cette promesse a toujours été repoussée jusqu’ici. L’avènement de l’apprentissage profond a encore repoussé cette échéance, les systèmes ayant connu un « bond de performance » par le simple usage de cette technique. Il est toutefois vrai que les chercheurs essaient de plus en plus d’intégrer des « connaissances linguistiques » dans les systèmes, c’est-à-dire en général des ressources mises au point par des linguistes.

11Le but de ce texte n’est pas de faire le simple constat d’un divorce entre les deux domaines : d’un côté le TAL, et de l’autre la linguistique. Il s’agit au contraire d’appréhender les avancées du domaine, d’essayer de comprendre la situation actuelle et le type de techniques utilisées en TAL, et enfin de voir comment le TAL peut aujourd’hui servir de « marchepied » à des recherches en linguistique, ou plus généralement en littérature ou en sciences humaines et sociales.

12L’exposé commence par un examen rapide des principales difficultés du traitement automatique des langues, afin de mettre en perspective les succès et les échecs des soixante-dix dernières années (section 2). La section suivante dresse un rapide survol historique du domaine, en se focalisant plus particulièrement sur la traduction automatique, l’application emblématique du TAL (section 3). L’exposé se poursuit avec un panorama des recherches actuelles, de la morphosyntaxe à la sémantique (section 4) et avec une présentation des techniques d’évaluation (section 5). On examine ensuite les applications du TAL à la linguistique (section 6), puis les applications à destination du grand public (section 7) avant de finir par les applications en lettres et sciences sociales, et plus globalement par les liens entre TAL et « humanités numériques » (section 8). L’exposé se termine enfin par une conclusion et une bibliographie qui permettra au lecteur d’aller plus loin sur certains aspects du problème.

2. Pourquoi l’analyse de la langue par ordinateur est-elle difficile ? La question de l’ambiguïté

  • 8 Fuchs (1996).

13Le TAL est difficile parce que l’ordinateur n’a a priori aucune connaissance de la langue. Il faut donc lui indiquer ce qu’est un mot, une phrase, etc. Jusque-là, les choses peuvent sembler relativement simples. En fait, il faut bien voir que dès ce niveau, la langue est complexe et ambiguë. Prenons deux exemples. L’apostrophe marque l’élision d’une lettre entre deux mots, comme dans « l’éléphant » (la lettre finale e de l’article défini est élidée devant un mot à initiale vocalique) et donc l’apostrophe peut être considérée comme un séparateur de mots. Cela est vrai en général, mais une séquence comme « aujourd’hui » est généralement considérée comme formant un seul mot, qui possède pourtant une apostrophe (qui ne joue plus alors son rôle de séparateur). Le tiret pose aussi des problèmes redoutables, et peut être soit un séparateur (« Rendez-vous, vous êtes cernés ! »), soit une partie du mot (« J’étais en retard à mon rendez-vous »). Dans le premier exemple, « rendez » est un verbe à l’impératif, tandis que dans le second exemple, « rendez-vous » est un nom dont les parties ne doivent pas être séparées lors de l’analyse (même si, étymologiquement, on peut décomposer le mot, mais ce type d’analyse n’aurait pas de sens ici, dans le cadre d’un système de traitement automatique des langues qui n’a pas à tenir compte de l’étymologie). Le problème est en fait beaucoup plus prégnant : quasiment chaque mot, chaque expression et chaque phrase peuvent être ambigus8.

14Prenons un exemple : « l’avocat a livré une plaidoirie au vitriol ». Chaque mot introduit de nombreuses difficultés pour un ordinateur. Pour un humain, il est par exemple évident que « avocat » désigne un juriste, « a livré » correspond au verbe et que « au vitriol » est une expression figée. Il n’en va pas de même pour un ordinateur : « avocat » peut désigner un fruit ; « livré » peut facilement être identifié comme un verbe mais le sens est ici largement métaphorique : il n’y a pas de livraison à proprement parler dans la phrase. Les compléments prépositionnels posent eux aussi des problèmes redoutables : comment savoir que « au vitriol » est rattaché à « plaidoirie » et non au verbe « livré » ? Si on avait eu affaire à la phrase « l’avocat a livré une plaidoirie au palais de justice », le complément « au palais de justice » aurait dû être rattaché au verbe et non au nom « plaidoirie », alors que la structure des deux phrases semble tout à fait comparable de prime abord.

15On pourrait objecter à cela que « au vitriol » est une expression figée qui doit être enregistrée comme un tout (c’est-à-dire comme une entrée à part entière) dans le dictionnaire. Cela est probablement vrai mais ne fait ainsi que repousser le problème dans la mesure où cette stratégie revient à augmenter le nombre de mots et d’expressions, ce qui a pour conséquence d’introduire de nouvelles ambiguïtés, et finalement de rendre le problème sans fin.

16Un dictionnaire du français courant contient en général entre 50 000 et 100 000 mots (hors noms propres). Quand on considère toutes les formes que l’on trouve effectivement dans les textes (un verbe comme « livrer » correspond en fait à plusieurs dizaines de formes conjuguées : « livrions », « livraient », « livrera », etc.), il est admis qu’il faut multiplier ce chiffre par huit environ en français. À cela, il faut ajouter les noms propres (on trouve des dictionnaires de plusieurs millions de noms propres, la plupart étant homonymes de noms communs, comme « Pierre » qui peut être confondu avec une « pierre », même si l’usage des majuscules limite le problème en français) et les dictionnaires de mots composés (qui peuvent aussi inclure plusieurs dizaines de milliers d’items). Enfin, chaque domaine technique est lui-même susceptible d’inclure de nombreux termes spécifiques, souvent homonymes d’autres mots de la langue.

17Les problèmes d’analyse syntaxique s’ajoutent à cela (dans notre exemple ci-dessus, faut-il rattacher « au vitriol » à « plaidoirie » ou au verbe « a livré » ?) et l’on voit qu’on a très rapidement affaire à un problème d’explosion combinatoire. La plupart des problèmes peuvent être résolus facilement, de manière locale (par exemple avec des heuristiques du type « comme “plaidoirie” apparaît dans le contexte du mot “avocat”, ce dernier désigne probablement l’homme de loi et non le fruit ») mais d’autres problèmes nécessitent des connaissances plus complexes, difficiles à concevoir de manière exhaustive quand on a affaire à des millions d’items.

18Il peut sembler paradoxal que tout cela ne pose aucun problème de compréhension à un humain, qui ne voit même pas qu’il y a ambiguïté (au sens où il faut choisir la bonne étiquette, le bon sens, le bon rattachement de chaque mot pour comprendre la phrase). De fait, cette dimension de la compréhension humaine a longtemps échappé aux concepteurs de systèmes automatiques, tant la compréhension est un phénomène naturel, direct et inconscient pour un humain. Il est d’ailleurs très improbable que le cerveau analyse toutes les possibilités pour chaque mot afin d’obtenir une représentation sémantique pour une phrase donnée : grâce au contexte, le cerveau accède probablement directement à la bonne interprétation, sans même considérer les analyses alternatives. À ce sujet, il a parfois été proposé un parallèle avec le cube de Necker, cette représentation des arêtes d’un cube en perspective cavalière (figure 1).

Figure 1. Le cube de Necker, une illusion d’optique publiée par Louis Albert Necker en 1832.

Figure 1. Le cube de Necker, une illusion d’optique publiée par Louis Albert Necker en 1832.

Source de l’illustration : https://fr.wikipedia.org/​wiki/​Cube_de_Necker#/​media/​File:Necker_cube.svg

Le dessin est ambigu dans la mesure où rien n’indique a priori quelle est la face du cube la plus proéminente. Le cerveau interprète cependant naturellement la figure afin d’en obtenir une représentation valide (on peut voir alternativement deux cubes différents mais ces perceptions ne sont jamais simultanées car le résultat ne serait pas conforme à une représentation valide, ou tout au moins aux conceptions prédéfinies dans le cerveau par observation de la réalité). Les dessins paradoxaux d’Escher fonctionnent aussi sur ce principe, sauf que ces dessins n’offrent pas une vue logique du monde mais à l’inverse contredisent nos conceptions prédéfinies de l’espace.

  • 9 Guillaume (1979).
  • 10 Victorri et Fuchs (1996). À l’inverse, la publicité joue fréquemment sur le maintien d’une ambiguït (...)

19Nous mentionnons ces exemples pour illustrer le fait que le cerveau interprète et éventuellement modifie les perceptions (visuelles ou auditives) suivant des schémas préconstruits. Ou, plus exactement et suivant les principes de la Gestalt9, il y a une co-détermination simultanée des parties et de la forme globale : le contexte permet de déterminer le sens des mots qui, eux-mêmes, permettent de déterminer le sens de la phrase et ce de façon simultanée10.

3. Un domaine emblématique du TAL : la traduction automatique

  • 11 Léon (2015).
  • 12 Poibeau (2017).

20Dès les débuts du traitement automatique des langues, juste après la seconde guerre mondiale, deux domaines liés au traitement automatique des langues naturelles sont apparus comme étant d’une importance fondamentale : la recherche d’information et la traduction automatique11. Le premier domaine visait à retrouver des informations parmi de grandes bases documentaires ou de grands ensembles d’archives, et à gérer des index complexes : le domaine donnera naissance aux bases de données, entre autres choses. L’autre secteur est celui de la traduction automatique : dans le contexte de la Guerre froide, traduire, du russe vers l’anglais en particulier, est très vite apparu comme un enjeu prioritaire12. Au-delà des aspects applicatifs immédiats, ce domaine de recherche a aussi été jugé important car il met en jeu toute la complexité du langage : la nécessité de comprendre le texte source, de le représenter formellement et de produire (on dit « générer ») un texte comme résultat, dans la langue cible.

  • 13 Turing (1950).

21La période de l’après-guerre se nourrit en fait d’un ensemble de réflexions sur la langue, sur ses particularités et sur ce que devrait viser un programme d’intelligence artificielle, c’est-à-dire un programme qui imiterait l’intelligence humaine. À côté de la traduction, le dialogue humain-machine est aussi étudié en détail car si une machine savait dialoguer, cela veut dire qu’elle pourrait – un peu de la même façon que pour la traduction automatique – comprendre, analyser ce qui est dit et produire des énoncés en retour pour alimenter la conversation de façon pertinente. Turing en particulier imagine différents dispositifs, dont le célèbre test de Turing13 : le test est réussi si un humain, dialoguant par écran interposé, est incapable de dire si son interlocuteur est un humain ou une machine (ou, alternativement, si la personne, dialoguant avec deux interlocuteurs – un humain et une machine –, est incapable de discerner l’humain de la machine) … La période de l’après-guerre fourmille de ces discussions sur ce qu’est l’intelligence, sur ce qu’il est possible de reproduire avec un ordinateur et sur la manière dont on peut le simuler, le tester, l’évaluer.

  • 14 Landragin (2013).

22Assez rapidement on se rend compte du caractère ambivalent du dialogue humain-machine. Ce domaine restera toujours un domaine important du traitement automatique des langues, mais celui-ci ne nécessite pas obligatoirement une analyse poussée : il est en effet possible d’instaurer un dialogue assez réaliste sans compréhension du contenu textuel, aussi étrange que cela puisse paraître14. Ainsi, Weizenbaum développe dans les années 1960 Eliza, un système de dialogue qui repère des structures conversationnelles typiques et génère des questions réalistes simplement sur la base de ce qui a déjà été dit (par exemple, à partir de « Je n’ai pas aimé ce film », l’ordinateur reconnaît le patron « Je n’ai pas aimé X » avec « X = ce film » et peut proposer très simplement une question comme « Pourquoi n’avez-vous pas aimé ce film ? » pour relancer le dialogue). La traduction ne peut pas se contenter de techniques aussi pauvres, même si une traduction mot à mot peut servir à développer des systèmes opérationnels à moindre coût. Pour obtenir une traduction de bonne qualité, il est nécessaire d’avoir une compréhension en profondeur du texte à traduire – c’est du moins ce que pensaient les premiers acteurs du domaine.

3.1. Les années 1940 : les débuts du TAL

23Comme on l’a signalé, la traduction automatique est vue comme une application clé dès l’immédiat après-guerre, avant même l’apparition des premiers ordinateurs. Ce désir d’automatisation et de formalisation du langage faisait écho à de très nombreuses recherches et réflexions menées dès les siècles précédents par nombre de savants et de penseurs, comme Leibniz ou Descartes.

24L’après-guerre est marquée à la fois par un besoin – traduire du russe vers l’anglais – et par des avancées majeures qui ont eu lieu pendant la guerre dans le domaine de la cryptographie. La cryptographie vise à traduire dans un langage compréhensible (typiquement, une langue humaine), un message codé suivant une procédure complexe. C’est à cette époque que Claude Shannon et Warren Weaver, deux savants américains qui ont travaillé dans le domaine de la cryptographie pendant la guerre, puis dans ce qui deviendra l’informatique, proposent leur célèbre schéma de la communication (1949), tel que présenté dans la figure suivante (figure 2).

Figure 2. Le schéma de la communication d’après Shannon et Weaver.

Figure 2. Le schéma de la communication d’après Shannon et Weaver.

Source de l’illustration : Picard (1992).

Ici, une source veut émettre un message. Celui-ci doit être encodé par l’émetteur : il peut s’agir par exemple de la traduction en morse d’un message en langue naturelle, ou tout simplement de la mise en mots d’idées que le locuteur souhaite émettre (si l’on imagine qu’il peut exister des idées abstraites dans la tête du locuteur, indépendamment de sa langue de communication) – le modèle était à l’origine essentiellement un modèle abstrait à des fins d’analyse du signal, mais il a depuis été largement appliqué à la communication humaine. Le message est ensuite transmis par un canal qui peut être « bruité », parce que le message circule dans un environnement soumis à divers aléas (bruit de fond, affaiblissement du signal en fonction de la distance, etc.). Ce message est enfin intercepté par un récepteur qui doit le décoder (transformer le message en morse ou en un message en langue naturelle, ou interpréter des mots pour en inférer des idées). Le schéma de Shannon a donc une portée très large, il sera largement repris et reste encore largement étudié, en introduction aux formations traitant aussi bien de théorie de la communication que du traitement du signal.

  • 15 Sur toute cette période, outre les références déjà citées, voir les livres de référence de Hutchins (...)

25À la même période, et avant que ce schéma ne s’impose, une idée similaire fait son chemin pour ce qui concerne la traduction automatique : ne pourrait-on pas considérer un texte en langue étrangère comme un message codé, qu’il faudrait analyser et traduire dans la langue cible, l’anglais par exemple ? Ce sont les échanges entre trois savants qui vont faire avancer ce domaine : Shannon et Weaver, dont nous avons déjà parlé, et Norbert Wiener, le père de la cybernétique, cette science qui vise, dans l’après-guerre, à donner une vision unifiée de l’automatique, de l’électronique et de la théorie de l’information15. Comme on l’a dit, la traduction automatique peut être vue comme un processus d’encodage / décodage. C’est ce que propose Weaver dès 1947, dans un échange avec Wiener :

On peut naturellement se demander si le problème de la traduction ne pourrait pas être considéré comme un problème de cryptographie. Quand je regarde un article en russe, je me dis : « Ceci a été écrit en anglais mais a été encodé avec des symboles étranges. Je vais maintenant procéder à son décodage. »

Wiener est de son côté extrêmement prudent, et a sans doute de bonnes intuitions concernant la difficulté du processus. Il a bien conscience que les mots ne se correspondent pas directement d’une langue à l’autre et que le problème de la traduction ne peut être résolu aussi simplement :

En ce qui concerne la traduction automatique, j’ai peur que les frontières des mots dans les différentes langues soient trop vagues […] pour rendre l’idée d’un système quasi automatique de traduction possible.

On voit bien, à travers les réserves de Wiener, la mise en évidence de problèmes qui seront effectivement des obstacles majeurs pour la traduction automatique : les mots n’ont pas d’équivalents directs d’une langue à l’autre, il existe de nombreuses expressions figées ou idiomatiques qui ne peuvent pas se traduire littéralement, etc.

26Weaver poursuivra malgré tout ses travaux et rédigera en 1949 un court texte intitulé « Translation », mais plus connu sous le simple nom de Memorandum, qu’il fera circuler auprès de la communauté scientifique de l’époque. Weaver a en fait « une double casquette » : à côté de ses travaux scientifiques, celui-ci est aussi responsable de programmes de recherche pour les organismes scientifiques américains et doit déterminer les domaines scientifiques prometteurs qu’il faut financer. C’est ce qui explique le succès important de ce petit texte relativement informel : c’est à partir de ce Memorandum que la recherche en traduction automatique va démarrer, se structurer et se développer aux États-Unis. Dans son texte, Weaver n’ignore pas complètement les remarques et les réserves de Wiener, mais celles-ci sont tout de même mises au second plan, alors qu’il s’agit de critiques fondamentales qui reviendront avec force 15 ans plus tard.

27Dans son Memorandum, Weaver met en avant quatre idées à explorer pour le traitement automatique des langues, et en particulier pour la traduction automatique. Ces quatre idées sont les suivantes :

  1. L’analyse du contexte d’apparition des mots doit permettre de déterminer leur sens. L’étendue du contexte à prendre en compte doit varier suivant la nature du mot mais aussi suivant le type et le sujet général du texte, si ces éléments sont connus.

  2. Il doit être possible de déterminer un ensemble de règles récursives qui permettent, à partir d’un nombre limité de telles règles, de générer l’ensemble des séquences linguistiques possibles.

  3. La traduction automatique peut s’inspirer des techniques développées en cryptographie. Weaver cite ici clairement le modèle de communication de Shannon.

  4. Les langues possèdent des éléments universels qui peuvent permettre de faciliter le processus de traduction. Plutôt que de traduire directement du chinois vers l’arabe ou du russe vers le portugais, il vaut probablement mieux chercher une représentation plus abstraite universelle qui éviterait les erreurs dues au mot à mot et à l’ambiguïté.

28Il faut souligner comment, en quelques propositions rapidement décrites, Weaver couche sur le papier différentes idées qui n’ont cessé d’être explorées depuis. La première concerne la désambiguïsation (déterminer la catégorie et le sens d’un mot suivant son contexte). Si l’analyse morphosyntaxique (déterminer si « danse » est un nom ou un verbe) est une tâche bien maîtrisée et pour laquelle la prise en compte du contexte immédiat est souvent suffisante, la tâche de désambiguïsation sémantique est, elle, beaucoup plus complexe et reste toujours mal maîtrisée aujourd’hui. Nous y reviendrons dans la suite de cet exposé.

29Le deuxième point a fait la fortune des grammaires formelles, des années 1950 à nos jours. Il s’agit de décrire, au moyen d’un nombre de règles fini, l’infinité des réalisations possibles en langues (en particulier l’infinité des phrases possibles). Cette recherche sera notamment au cœur du programme chomskyen mais aussi de toutes les approches en analyse syntaxique automatique (parsing).

30Le troisième point fait le parallèle avec les techniques de cryptographie, qui avaient connu des développements fulgurants dans le contexte de la Seconde Guerre mondiale, comme on le sait. Si ce parallèle n’est plus vraiment d’actualité aujourd’hui, on peut tout de même remarquer que les techniques d’analyses statistiques les plus populaires aujourd’hui ont beaucoup en commun avec les techniques utilisées originellement en analyse du signal.

31Enfin, le dernier point va inspirer de très nombreux travaux visant la recherche d’un nombre limité d’atomes sémantiques permettant de représenter des notions sémantiques plus complexes. Si ce type de recherche, pendant longtemps très populaire, ne semble pas avoir donné de résultats très probants, on voit apparaître ces dernières années de nouvelles représentations multilingues, qui ne visent plus la recherche d’atomes de sens, mais mettent en correspondance des mots de différentes langues selon un point de vue sémantique (réseaux sémantiques multilingues).

32Il faut enfin souligner la modestie du texte de Weaver, qui lance des idées mais souligne aussi leur probable naïveté (« I have worried a good deal about the probable naivete of the ideas here presented »). Peut-être faut-il ne voir là qu’une précaution rhétorique, mais on reste quand même frappé, à la lecture de ce texte, par la simplicité du propos qui contraste avec la postérité des idées mises en avant. Probablement y a-t-il quelque naïveté – ou en tout cas une grave sous-estimation des difficultés à venir – au sujet de l’ambiguïté, qui se résume dans ce texte à un problème pouvant être résolu par l’analyse du contexte proche. Comme on l’a dit, cela est en partie vrai pour déterminer la nature des mots (leur catégorie morphosyntaxique), mais n’est en aucun cas suffisant pour déterminer leur sémantique.

3.2. Les années 1950 : le premier âge d’or de la traduction automatique et le développement des systèmes à base de règles

33Sous l’influence du Memorandum de Weaver et d’une douzaine de chercheurs en automatique, le domaine de la traduction automatique prend forme au début des années 1950 aux États-Unis. Quelques groupes reçoivent des financements pour développer des recherches sur le sujet, d’abord de façon théorique le plus souvent car la période voit justement la naissance des premiers ordinateurs. Comme on l’a déjà entrevu, deux éléments jouent un rôle déterminant : d’une part, la cryptographie qui a connu des progrès fulgurants et dont la traduction automatique cherche à s’inspirer ; d’autre part, sur le plan pratique, la traduction du russe vers l’anglais est un enjeu majeur, ce qui permet de mobiliser rapidement des financements pour le domaine.

34Mais c’est en fait un chercheur israélien qui va jouer un rôle décisif. Yoshua Bar-Hillel effectue un séjour de deux ans au MIT, en 1951-1953, pour collaborer avec Carnap. Le philosophe d’origine allemande avait développé une « syntaxe logique du langage » qui ouvrait la voie à une formalisation logique des langues. Le rapport avec les ordinateurs naissants est alors évident : les recherches de Carnap semblaient pouvoir fournir une base solide au codage informatique de données exprimées en langue naturelle, autrement dit dresser un pont entre langues naturelles et langages artificiels. C’est ce que veut explorer Bar-Hillel, mais il n’en reste pas là. Une équipe du MIT s’intéresse à la traduction automatique, et naturellement Bar-Hillel s’y intéresse à son tour, la traduction étant très proche de ses centres d’intérêt concernant la formalisation et la mécanisation du langage. Bar-Hillel devient même rapidement une figure essentielle du domaine. Il obtient une bourse lui permettant de visiter les principales équipes aux États-Unis, avec pour but d’organiser une conférence visant à réunir les principaux acteurs de ce domaine encore naissant. Bar-Hillel rédige alors un document montrant l’intérêt de ces recherches, mais soulignant aussi les difficultés de la tâche (ce document semble en quelque sorte faire écho à la discussion entre Wiener et Weaver qui avait eu lieu quelques mois plus tôt). Dans la foulée, il organise la première conférence du domaine en juin 1952, au MIT.

35La plupart des chercheurs actifs en traduction automatique sont présents à la conférence du MIT. Les participants sont évidemment enthousiastes et soulignent le besoin d’attirer des financements importants, dans la mesure où la traduction demande des forces humaines, mais aussi et surtout l’accès à des ordinateurs qui ont un coût prohibitif à l’époque. Pour promouvoir la traduction automatique, le représentant de l’université de Georgetown (un des principaux centres de recherche, pionnier dans le domaine) propose qu’une démonstration soit organisée aussi tôt que possible afin de démontrer la faisabilité du projet et d’attirer des subventions.

36L’année 1954 est ainsi marquée par la première démonstration de traduction automatique à partir d’un système mis au point conjointement par l’équipe de l’université de Georgetown et par IBM. Un ensemble de 49 phrases russes sont traduites vers l’anglais avec un système relativement sommaire (dictionnaire de 250 mots et 6 règles de grammaire seulement). L’impact est très important et contribue à augmenter les financements pour la traduction automatique. L’évènement a par ailleurs une large couverture médiatique, ce qui permet d’attirer la sympathie du public. Les agences de financement américaines soutiennent progressivement un nombre de groupes de plus en plus important sur la traduction automatique, principalement aux États-Unis, mais aussi au Royaume-Uni. La démonstration de 1954 attire aussi l’attention en URSS et plusieurs groupes de recherche soviétiques se lancent dans ce domaine de recherche à partir de 1955. Le domaine s’institutionnalise avec des conférences régulières et une revue spécialisée (Mechanical Translation, à partir de 1954).

37La plupart des groupes de recherche ont cependant alors un accès très limité aux ordinateurs, qui restent coûteux et peu répandus, notamment en URSS. De fait, la plupart des travaux demeurent théoriques et proposent des approches permettant de « mécaniser » le processus de traduction, sans être toujours mis en œuvre concrètement. Schématiquement, on peut dire que deux types de recherche voient le jour. Le premier est dit « pragmatique » et vise à produire rapidement des résultats, même si ceux-ci ne sont pas parfaits. Les systèmes reposent alors essentiellement sur une approche de traduction directe : des dictionnaires bilingues permettent d’obtenir une traduction mot à mot puis des règles de réordonnancement visent à produire un texte tenant compte de certaines particularités de la langue cible. Autrement dit, un dictionnaire permet de trouver des équivalences entre mots puis des règles simples permettent de contrôler certains phénomènes locaux, comme l’ordre nom-adjectif.

38À l’inverse, un autre type de recherche concerne les partisans d’une approche plus théorique, qui vise à contourner les limites de l’approche directe. Diverses propositions se font alors jour pour intégrer une phase d’analyse du texte source dans le processus de traduction et procéder par des règles de transfert opérant au niveau syntaxique ou sémantique. C’est notamment dans les années 1950 que la notion de grammaire formelle se met en place, autour de Chomsky principalement. Certains centres de recherche s’intéressent aussi à la notion de langage pivot (où une langue particulière est utilisée comme mode de représentation intermédiaire entre langue source et langue cible) voire d’interlangue (où un langage artificiel est défini pour représenter les phrases à traduire) : l’approche consiste à encoder les informations nécessaires pour la traduction, indépendamment des langues visées.

3.3. Les années 1960 : crise de la traduction automatique et naissance du traitement automatique des langues

  • 16 Bar-Hillel (1958, 1959 et 1960).

39Après l’enthousiasme des années 1950, les années 1960 sont marquées par de nombreux doutes concernant la traduction automatique : les performances ne sont pas au rendez-vous (elles sont en tout cas très loin des promesses proférées dans les années précédentes). Il y a en fait deux séries de critiques majeures : d’abord celles de Bar-Hillel dès la fin des années 195016, puis celles du rapport ALPAC (Automatic Language Processing Advisory Committee) en 1966. Ce dernier rapport est extrêmement critique et contribuera à mettre les recherches en traduction automatique au second plan pour plusieurs décennies.

40Mais revenons à Bar-Hillel. Celui-ci a l’occasion de retourner aux États-Unis entre 1958 et 1960. En se rendant en Amérique en 1958, il s’arrête à l’université de Namur pour donner une conférence intitulée « Some linguistic obstacles to machine translation ». Dans ce texte, Bar-Hillel énumère certaines questions linguistiques qui constituent à ses yeux des problèmes de fond pour la traduction automatique, dans la mesure où aucun système ne sait alors les résoudre. Pour lui, les modèles employés à l’époque sont trop simples et nécessiteraient d’être remplacés par des modèles rendant mieux compte de la structure des phrases à analyser. De plus, les règles de transfert entre langues génétiquement éloignées ne vont pas de soi et demandent probablement des formalismes complexes encore à inventer. À la suite de cette communication, Bar-Hillel se rend aux États-Unis pour évaluer les recherches dans le domaine.

41C’est dans ce cadre qu’il rédige un rapport technique intitulé « Report on the state of machine translation in the United States and Great Britain » (fév. 1959) pour le compte des autorités américaines, en l’occurrence le US Office of Naval Research. Le rapport dresse un constat extrêmement négatif des travaux en cours, sans tenir compte du caractère très récent des recherches observées (la plupart des groupes n’ont que quelques années d’existence). Tous les groupes de recherche sont directement cités et sévèrement critiqués.

42Sur le plan linguistique, Bar-Hillel remarque d’une part que la traduction nécessite une analyse syntaxique complète du texte, ce qui n’était pas encore complètement évident pour tous les groupes impliqués dans le domaine à l’époque, et, d’autre part, que la traduction nécessite de résoudre les ambiguïtés sémantiques, ce qui est au-delà de l’état de l’art de l’époque et ne semble pas soluble à moyen terme. Une annexe du rapport a un titre évocateur (« A demonstration of the non-feasibility of fully automatic, high quality translation ») et entend montrer que le sens de certains mots ambigus ne peut être déterminé automatiquement, même en prenant en compte le contexte, ce qui suffit en soi à ruiner l’objectif d’une traduction automatique de qualité. Bar-Hillel prend l’exemple suivant, que nous citons car il demeure un des plus connus de l’histoire de la traduction automatique :

Little John was looking for his toy box. Finally, he found it. The box was in the pen. John was very happy.

Pour comprendre la phrase, il faut identifier le fait que « pen » désigne ici un parc où l’enfant peut jouer, et en aucun cas un stylo ou un crayon. Or, rien dans le contexte ne permet d’inférer automatiquement ce sens pour « pen », qui est très peu fréquent avec ce sens précis. C’est pourquoi tous les systèmes sont incapables de résoudre ce type de cas, qui serait fréquent d’après Bar-Hillel. Il est donc impossible d’envisager une traduction complètement automatique de haute qualité à court ou moyen terme (Bar-Hillel parle de FAHQT : Fully Automatic High Quality Translation, on trouve parfois aussi l’acronyme FAHQMT : Fully Automatic High Quality Machine Translation).

43Le ton du rapport n’est cependant pas entièrement négatif. À la place de la traduction automatique, Bar-Hillel préconise de s’orienter vers des systèmes de traduction assistée par ordinateur, ce qui constitue un projet relativement différent, et nettement moins excitant, scientifiquement parlant, que la conception d’un système entièrement automatique. Bar-Hillel plaide en particulier pour le développement d’aides à la traduction qui permettraient d’augmenter significativement la productivité des traducteurs en proposant des outils adaptés et efficaces, notamment au niveau de la pré – et de la postédition (préparation du texte pour la traduction ; correction des erreurs de traduction). Dans la mesure où il s’agit d’aider les traducteurs, les outils mis au point peuvent être relativement différents : par exemple, il vaut mieux présenter au traducteur des propositions de traductions plutôt que produire directement un texte entier qui sera difficilement amendable (c’est ce qui existe aujourd’hui à travers les « mémoires de traduction », qui répondent justement à cet objectif).

44Les critiques de Bar-Hillel ont un effet assez net : de nombreux chercheurs arrêtent leurs recherches en traduction automatique, sans pour autant abandonner complètement le traitement des langues par ordinateurs. Un constat est largement partagé, par Bar-Hillel mais aussi par l’ensemble des acteurs du domaine : il est nécessaire de se tourner vers l’analyse des langues, en commençant par des traitements bas niveau, pour refonder le domaine. La traduction automatique est trop ambitieuse et trop complexe : il faut avant tout établir des bases solides permettant une analyse syntaxique et sémantique adéquate, à partir de laquelle il sera éventuellement possible de concevoir ultérieurement des tâches plus ambitieuses.

  • 17 ALPAC (1966) ; Hutchins (2003).

45Dans la foulée des discussions enclenchées à la suite du rapport de Bar-Hillel, les autorités américaines commandent en 1964 un rapport officiel sur l’état du domaine. Ce rapport sera rédigé par un comité ad hoc : le comité ALPAC. Le rapport s’intitule « Languages and machines : computers in translation and linguistics » et est finalement publié en 196617. L’essentiel de ce court rapport concerne en fait les besoins en matière de traductions, l’utilité de celles-ci pour les agences concernées (il s’agit essentiellement du secteur public et d’entreprises liées à la sécurité et la défense ; la plupart des traductions demandées n’avaient pas d’intérêt et étaient finalement peu ou pas lues) et les coûts liés à ces traductions. La partie sur la traduction automatique n’occupe en fait qu’un court chapitre de cinq pages au sein du rapport.

46La préface du rapport mentionne deux raisons qui pourraient justifier le financement de recherches par des fonds publics (à l’exception de la NSF, les agences finançant alors la recherche dans le domaine aux États-Unis sont liées au monde de la défense et du renseignement ; il est courant aux États-Unis que ce type d’agences finance des recherches scientifiques mais il s’agit alors généralement de recherches sur objectif). Ces deux raisons seraient les suivantes : 1) il s’agit d’un programme de recherche fondamental, ambitieux, à long terme, avec des retombées potentiellement importantes ; 2) à l’inverse, la recherche vise à répondre à un problème pratique.

47Le rapport indique que le cadre de la recherche en traduction automatique est clairement le deuxième (obtenir des méthodes rapides et efficaces à moindre coût, à relativement court terme) et propose donc une évaluation du domaine à cette aune. Il s’agit là bien évidemment d’un biais important, dans la mesure où l’absence de solution pratique efficace à court terme n’indique pas l’inutilité des recherches menées. La nature des agences finançant les recherches a sans aucun doute fortement influencé le processus d’évaluation.

48Les équipes payent aussi le prix de promesses trop importantes depuis les débuts de la recherche dans le domaine. La démonstration de 1954 (voir section précédente) laissait penser qu’une solution fonctionnelle était à portée de main. Or, les essais au niveau industriel et les démonstrations publiques de la fin des années 1950 et du début des années 1960 montrent qu’on en est loin. Cela est de fait contradictoire avec le discours ambiant quelques années plus tôt, où les équipes laissaient penser que la traduction automatique pourrait voir des résultats opérationnels en quelques mois.

49Il faut donc garder en tête que le rapport est avant tout tourné vers l’évaluation de la possibilité d’obtenir des traductions automatiques de haute qualité à court terme (FAHQMT, cf. supra). Cela donne au rapport une tournure particulière et aura des conséquences importantes pour le domaine. Cela explique aussi pourquoi la première moitié du rapport détaille le volume de traduction traité dans les agences concernées, le nombre de traducteurs disponibles et les coûts induits. On le voit clairement à la lecture du rapport : on est dans la prise en compte d’une situation très concrète et la principale mesure est l’évaluation des coûts ! Les perspectives de recherche sont très loin des préoccupations premières des auteurs du rapport.

50De fait, le rapport conclut qu’en termes de coût, un traducteur humain est plus abordable qu’une traduction automatique, pour un résultat meilleur et même plus rapide, dans la mesure où il n’y a pas besoin de postédition (la correction d’un texte traduit complètement automatiquement mais peu lisible est en soi un exercice souvent plus long que l’élaboration d’une traduction directe par un traducteur chevronné). Seule la traduction du russe vers l’anglais est considérée : là aussi, le rapport conclut que les besoins sont limités et que les plus gros « consommateurs » de traduction depuis le russe seraient plus avisés d’apprendre directement la langue qui les intéresse (le rapport semble d’ailleurs exagérément optimiste quant au temps nécessaire pour maîtriser une langue étrangère, évalué à quelques semaines seulement) !

51Le rapport indique donc nettement qu’il n’y a, au milieu des années 1960, aucun besoin en traduction automatique et que, d’un point de vue purement pratique, ce domaine ne présente aucun intérêt vu qu’il n’y a alors aucun système pertinent pour la tâche (la formulation originale est très directe : « Il n’y a aucune urgence dans le domaine de la traduction. Le problème n’est pas de satisfaire un besoin inexistant à travers des systèmes de traduction automatiques inexistants. »).

52La suite aborde la question de la traduction automatique en elle-même. Le rapport donne une définition standard de la traduction automatique, visant un processus entièrement automatisé, sans intervention humaine (« on présume que la traduction automatique signifie passer grâce à un algorithme d’un texte source sur un support lisible par ordinateur vers un texte cible sans recours à la traduction humaine ou à la postédition »). Le rapport conclut aussitôt qu’aucun système de ce type n’existe alors et qu’un tel système n’est même pas envisageable. Le système de Georgetown est alors explicitement cité : après huit années de financement, le système développé n’est toujours pas capable de fournir une traduction correcte. Il faut intervenir au niveau de la postédition et ce travail est plus long que le temps consacré à la traduction directe par un traducteur humain. Le rapport souligne que si les traductions obtenues automatiquement produisent le plus souvent un texte déchiffrable, ils peuvent aussi contenir des faux-sens ou des contresens. Les nombreuses fautes qu’ils contiennent les rendent difficilement manipulables et pénibles à corriger. Le rapport livre alors, à titre d’exemple, quatre résultats de traduction depuis le russe par quatre systèmes de traduction automatique récents. Ces traductions sont médiocres.

3.4. 1965-1990 : comme une longue pause

53La période qui suit la publication du rapport ALPAC montre une pause des recherches en matière de traduction automatique dans le monde anglo-saxon. D’autres pays continuent de financer des équipes de recherche tandis que les premiers systèmes commerciaux font leur apparition. Les innovations techniques au cours de la période sont plus limitées, après le foisonnement de la première décennie.

54Le rapport ALPAC entérine l’assèchement des financements américains dans le domaine de la traduction automatique au milieu des années 1960. La réduction des financements était déjà patente depuis le réquisitoire de Bar-Hillel de 1959. Aux États-Unis, deux groupes continuent néanmoins les recherches sur la traduction automatique mais, même là, l’accent est mis sur l’analyse syntaxique en vue d’une approche par transfert. D’autres groupes abandonnent complètement la traduction automatique et se tournent eux aussi vers l’analyse syntaxique, ce qui constitue en quelque sorte un échec mais aussi une suite logique de la période précédente.

55D’autres pays, en particulier ceux où plusieurs langues ont un statut officiel, lancent paradoxalement des centres de recherche sur la traduction automatique au moment où les États-Unis abandonnent le domaine. Tel est le cas du Canada notamment, qui lance un centre de recherche à Montréal en 1965, alors que la plupart des centres américains ont déjà fermé (il s’agit du centre qui s’appellera à partir des années 1970 TAUM : Traduction automatique de l’Université de Montréal). Le besoin de produire un grand nombre de documents officiels en anglais et en français entraîne des frais de traduction élevés, ce qui constitue un élément incitateur fort pour lancer des recherches dans le domaine. Le groupe de Montréal sera à l’origine du système qui a longtemps été le plus connu dans le domaine de la traduction automatique : il s’agit de TAUM Météo, chargé de traduire les bulletins météorologiques de l’anglais vers le français et du français vers l’anglais, de manière entièrement automatique ou très faiblement supervisée. Des milliers de rapports seront ainsi traduits, au niveau national et au niveau régional, pour chaque province du Canada.

  • 18 Sur la situation en France, l’ouvrage déjà cité de Léon (2015) constitue la meilleure source d’info (...)

56En France, la recherche débute avec l’arrivée des premiers ordinateurs vers la fin des années 195018. Deux groupes de recherche sur la traduction se mettent alors en place : le GETAP à Paris et le GETAG à Grenoble (GETA : Groupe d’étude sur la traduction automatique, P signifiant Paris et G, Grenoble). Le GETAP disparaît rapidement : c’est un chercheur français en automatique, formé à Polytechnique et passé au MIT, Maurice Gross, qui en est responsable. M. Gross arrive rapidement aux mêmes conclusions que Bar-Hillel : la traduction automatique est une tâche trop complexe pour être abordée directement, il faut d’abord assurer des bases solides au traitement automatique des langues. L’originalité de Maurice Gross consiste à ne pas se tourner vers l’analyse syntaxique, contrairement à la plupart de ses homologues américains : il a l’intuition qu’au-delà des grands principes sur la langue, c’est au niveau du lexique que réside l’essentiel de l’information nécessaire pour l’analyser. Il se tourne alors vers un programme de travail qui l’occupera plus de 30 ans, l’élaboration d’un objet dit « lexique-grammaire » qui, comme son nom l’indique, vise à encoder une part de la grammaire au niveau du lexique (par exemple, le fait qu’un verbe puisse se mettre au passif, le fait que le complément d’agent d’un verbe comme « aimer » au passif est introduit par « de » et non par la préposition « par », etc.). Ce programme de travail est à l’opposé de celui de Chomsky, par exemple, qui, au même moment, cherche à décrire des principes généraux et même universels sur la langue. Le lexique est souvent vu comme le royaume de l’arbitraire, chaque fait devant être enregistré sans qu’il soit réellement explicable sinon par le hasard des circonstances : Gross montre qu’il n’en est rien et qu’il est possible de décrire le lexique à travers des classes de mots partageant des ensembles de propriétés qui peuvent être définies explicitement. Il défend aussi l’idée que la description du lexique est une tâche nécessaire, et qu’aucun système ne pourra fonctionner sans lexique riche à large couverture. De fait, dans les années 1970 et 1980, la France aura une avance importante en matière de lexiques électroniques, avant que les Américains ne décident eux aussi de lancer de grands programmes dans ce domaine dans les années 1980. Le lexique-grammaire est toujours disponible, mais son format est lourd et peu adapté aux traitements automatiques mis en œuvre aujourd’hui. Il a été repris et intégré dans d’autres lexiques mais n’a pas vraiment survécu à la disparition de son concepteur au début des années 2000.

57L’équipe de Grenoble deviendra le GETA (sans le G final) après la disparition du centre parisien. Ce centre, dirigé par Bernard Vauquois, un chercheur formé en mathématiques et astrophysique, met au point dans les années 1960 un système de traduction original. Les relations syntaxiques y sont encodées dans un formalisme logique indépendant des langues. Les recherches portent alors surtout sur la traduction de textes de mathématiques et de physique du russe vers le français. Le système souffre toutefois d’un manque de flexibilité : un problème à un niveau suffit à bloquer tout le processus de traduction. Vauquois se lance alors, au milieu des années 1970, dans le développement d’un système modulaire, avec des possibilités de transfert à différents niveaux (ce sera le système Ariane-78). Bernard Vauquois est aussi l’auteur d’un célèbre schéma : le triangle de la traduction (figure 3) qui résume les différentes approches possibles dans le domaine.

Figure 3. Le triangle de Vauquois.

Figure 3. Le triangle de Vauquois.

Source de l’illustration : https://fr.wikipedia.org/​wiki/​Fichier:Triangle_de_vauquois.svg

Pour Vauquois, la traduction idéale nécessiterait une représentation logique et indépendante des langues (le sommet du triangle) mais, si le système ne peut pas atteindre cette finesse d’analyse, des niveaux de transfert intermédiaire syntaxique ou sémantique peuvent permettre de proposer une traduction au moins partielle. Le niveau inférieur (transfert direct) correspond en fait à une traduction mot à mot (traduction directe au niveau des mots et réordonnancement local éventuel, sans analyse syntaxique globale).

58De la même manière que le bilinguisme ambiant a poussé le Canada à financer un centre de recherches alors que les États-Unis se détournaient de la traduction automatique, la nécessité de produire des traductions entre un nombre important et régulièrement grandissant de langues au sein de l’Union européenne pousse la Commission européenne à s’intéresser à la traduction automatique dans les années 1970. Deux faits marquants sont à relever : l’Union européenne examine d’abord les principaux systèmes commerciaux disponibles. C’est ainsi qu’une entreprise née aux États-Unis en 1968, Systran, sera amenée à faire une démonstration de son système en 1975, avant de développer un prototype intégrant les différentes langues de l’Union européenne puis de nouer un partenariat prolongé au cours des années 1980. Parallèlement, à la fin des années 1970 et largement sous l’impulsion de Vauquois, un grand programme de recherche européen est lancé. Il s’agit du projet Eurotra qui sera actif de 1978 à 1992. L’accent est mis sur le niveau syntaxique, davantage que sur le développement de lexiques bilingues. Les ambitions du projet, qui devait initialement aboutir à des systèmes opérationnels entre les langues de l’Europe, sont progressivement réduites et ses retombées seront finalement modestes, contribuant essentiellement à faire émerger et à fédérer des groupes de recherche en traitement automatique des langues à travers l’Europe.

59Ailleurs dans le monde, en Union soviétique et en Asie notamment (Chine, Japon), plusieurs centres sont créés ou poursuivent leurs recherches au cours de la période. L’apparition de corpus parallèles (c’est-à-dire d’ensembles de textes en situation de traduction) va progressivement amener les chercheurs à imaginer de nouvelles méthodes pour la traduction automatique, ce qui aura pour conséquence de relancer la recherche et de renouveler les méthodes exploitées dans le domaine.

3.5. 1990-2015 : l’avènement des statistiques ou le deuxième âge d’or de la traduction automatique

  • 19 Brown et al. (1993).

60La traduction automatique statistique voit le jour à la fin des années 1980 quand une équipe d’IBM essaie d’appliquer à un problème de traduction des techniques issues de la reconnaissance de la parole19. Dans ce dernier domaine, la tâche consiste à produire une séquence de mots à partir d’un signal sonore. La traduction automatique pose un problème en quelque sorte similaire, dans la mesure où il s’agit de produire une séquence de mots dans une langue cible à partir d’une séquence dans une langue source (autrement dit, il suffit de substituer la notion de langue source au signal sonore de la reconnaissance de la parole).

  • 20 Tiedemann (2011).

61La traduction automatique statistique repose sur la disponibilité de grands corpus bilingues alignés, c’est-à-dire de très grands ensembles de textes en situation de traduction « fidèle » où chaque phrase de la langue source est alignée avec une phrase de la langue cible (plus rarement, on peut avoir affaire à des alignements asymétriques, où une phrase de la langue source doit être alignée avec deux phrases de la langue cible par exemple). L’approche statistique revient à repérer les cooccurrences les plus fréquentes entre langue source et langue cible et à en inférer des traductions potentielles au niveau des mots20.

  • 21 Koehn (2009).

62Schématiquement, chaque alignement et chaque correspondance lexicale a au début la même probabilité, mais l’observation que deux mots apparaissent régulièrement en regard l’un de l’autre dans un très grand nombre de phrases va progressivement renforcer leur probabilité d’être la traduction l’un de l’autre, ainsi que la probabilité des alignements possibles au niveau des phrases où ces deux mots sont en correspondance. Cette stratégie revient en quelque sorte à effectuer une traduction mot à mot, à partir de la recherche préalable de correspondances lexicales dans de très grands corpus. Le modèle peut aussi être complexifié pour tenir compte de séquences : un des grands enjeux de la recherche dans les années 2000 consistera justement à étendre les modèles IBM originaux pour tenir compte de « fenêtres de traduction » plus longues et à fonder l’analyse sur des séquences de textes (de n mots contigus pris ensemble par exemple), ce qui augmente beaucoup la qualité des traductions produites21.

63Il n’empêche, cette approche semble à l’opposé des recommandations des rapports des années 1960, à savoir que pour traduire un texte il faut d’abord le comprendre, c’est-à-dire en donner une représentation syntaxico-sémantique explicite. Les modèles IBM vont cependant connaître un succès phénoménal, au-delà des attentes de l’équipe IBM elle-même, qui ne voyait là initialement que l’occasion d’une expérience simple et basique. L’intégration de connaissances extérieures plus complexes (dictionnaires ou réseaux sémantiques par exemple) finira par se faire, mais pendant longtemps les principales extensions de ces modèles porteront sur les aspects statistiques.

64Pourquoi ces systèmes semblent-ils obtenir des performances acceptables sur des textes variés, en tout cas souvent meilleurs que les systèmes à base de règles mis au point par de nombreux linguistes pendant plusieurs années ? Un aperçu de la réponse se trouvait en filigrane dans les pages précédentes : il est quasi impossible à des linguistes de définir des règles d’analyse ou de transfert à large couverture, tenant compte du contexte, pour un domaine ouvert. À l’inverse, les systèmes statistiques peuvent analyser des corpus de plusieurs millions (voire aujourd’hui milliards) de mots, en tirer des informations dépendant du contexte local (souvent limité à une fenêtre de trois ou quatre mots autour du mot analysé), ce qui suffit à élaborer des systèmes plus robustes et souvent plus exacts que des systèmes développés manuellement. Notons, en outre, qu’on ne cherche pas obligatoirement une traduction exacte quand on est sur Internet : une traduction vague donnant une idée du contenu du document original peut parfois être une aide précieuse (par exemple pour décider de demander une traduction plus exacte à un traducteur professionnel).

65Les approches statistiques ne sont pas limitées au domaine de la traduction automatique : c’est en fait à tout le traitement automatique des langues que les approches statistiques vont s’imposer. Par exemple, l’outil le plus populaire depuis une vingtaine d’années pour l’analyse morphosyntaxique (annotation en parties du discours et lemmatisation) est TreeTagger22, un outil conçu au début des années 1990. TreeTagger a été adapté pour des dizaines de langues mais la base statistique reste la même. Dans le domaine de l’analyse syntaxique aussi les approches statistiques se sont rapidement révélées les plus efficaces : elles permettent de prendre des décisions locales en fonction d’un nombre important d’informations de nature variée.

  • 23 Paroubek et al. (2007).

66Simultanément, la période voit l’avènement des campagnes d’évaluation : à partir du moment où de nombreux systèmes peuvent être mis au point rapidement à partir des données disponibles sur le Web, il est important de pouvoir évaluer ces systèmes, pour les comparer et pour voir quelles sont les approches les plus efficaces23. Les campagnes d’évaluation permettent aussi aux financeurs d’avoir une idée des performances possibles et surtout elles permettent aux chercheurs de surveiller les avancées d’un domaine (les recherches progressent-elles ou ont-elles atteint un plateau ?). Partant, à partir des années 1990, des centaines de campagnes d’évaluation vont être organisées, d’abord dans le domaine de l’extraction et de la recherche d’information (campagnes TREC, Text Retrieval Conference, et MUC, Message Understanding Conference), et plus récemment dans des domaines moins appliqués comme la sémantique (SemEval, Semantic Evaluation ; ACE, Automatic Content Extraction). D’autres sont propres au domaine de la traduction automatique : chaque année, différents couples de langues sont proposés ; il peut s’agir de langues indo-européennes ou, de plus en plus, de langues moins explorées jusqu’ici (sur l'évaluation en TAL, voir la section 5). Le développement de systèmes pour des langues plus rares, ou ayant un potentiel commercial moins fort, reste une préoccupation importante.

3.6. Depuis le milieu des années 2010 : la révolution de l’apprentissage profond

67On a vu, dans la section qui précède, l’avantage des méthodes statistiques, notamment en matière de traduction automatique. La traduction statistique souffre toutefois de problèmes connus et difficiles à surmonter. En particulier, une des faiblesses majeures des systèmes fonctionnant sur cette base est de devoir composer la traduction d’une phrase par assemblage de fragments de textes trouvés dans la langue cible. Or ces fragments peuvent être hétéroclites et ne sont pas toujours compatibles entre eux : il y a dès lors un fort risque d’obtenir des phrases bancales, voire incohérentes. Si les systèmes se sont considérablement améliorés depuis les années 1990, les phrases restent toutefois souvent mal traduites, surtout si elles sont longues.

68Par ailleurs, on observe que le Web est un objet de plus en plus multilingue. Ainsi, la part des utilisateurs d’Internet dont la langue maternelle est l’anglais serait passée aux alentours de 25 % récemment, alors que largement plus de 50 % d’entre eux étaient anglophones aux débuts du Web (voire 100 % au tout début). Les besoins en matière de traduction automatique sont donc avérés et le marché incite à poursuivre l’effort en faveur d’une traduction de meilleure qualité.

  • 24 Gilleron (2019) et Goodfellow et al. (2016).

69Alors que les systèmes de traduction automatique statistique s’amélioraient régulièrement, un changement majeur est survenu ces dernières années. Il s’agit, comme on peut s’en douter, de l’arrivée de l’apprentissage profond, c’est-à-dire des réseaux de neurones artificiels24. Un neurone artificiel est un programme informatique qui produit un résultat à partir de différentes valeurs fournies en entrée. Un réseau de neurones prend des décisions, c’est-à-dire produit un résultat, en fonction d’un très grand nombre de neurones organisés de façon hiérarchique. La modélisation sous forme de réseau permet de tenir compte d’un très grand nombre de variables organisées semi-automatiquement, qu’il serait impossible de classer et de hiérarchiser manuellement. Les liens d’un neurone avec chacun des autres neurones du réseau ne sont pas équiprobables mais sont « appris », c’est-à-dire qu’une multitude d’exemples doivent être présentés au réseau afin que celui-ci ajuste ses paramètres pour prendre la « meilleure » décision en fonction d’une situation donnée. Un réseau de neurones est donc un modèle complexe qu’il est difficile d’expliquer de façon simple, mais on peut prendre l’exemple d’un système devant déterminer le sujet du verbe au sein d’une phrase simple. Par défaut, si on ne donne aucune information au système, tous les mots d’une phrase donnée peuvent être considérés comme des sujets potentiels mais, par simple observation des régularités dans le corpus d’apprentissage, le système peut rapidement identifier que seuls les noms et les pronoms ont de bonnes chances d’être sujet (d’autres cas sont possibles – des infinitifs peuvent aussi être sujet par exemple – mais il y a des chances pour que ces cas soient ignorés s’ils sont trop rares). Jusque-là, les choses sont relativement triviales, mais déterminer quel est le nom qui est réellement le sujet d’une phrase donnée est complexe – il faut évidemment pouvoir prendre en compte les cas de sujet inversé – et dépend d’une multitude de facteurs ayant trait à la structure des groupes nominaux, à la structure de la phrase, aux règles d’accord, etc. La modélisation de tels phénomènes est complexe et nécessite l’observation de multiples exemples, et même un observateur attentif est rapidement confronté à des règles relatives, difficiles à ordonner et parfois contradictoires. Le réseau de neurones permet souvent de résoudre ce type de problèmes de manière plus satisfaisante et entièrement automatique. Il n’y a plus de règles à proprement parler, mais un système capable de prendre des décisions en fonction d’un réseau complexe et hiérarchisé de contraintes pondérées.

70L’approche neuronale a aussi un grand avantage sur l’approche statistique classique : elle permet de considérer la phrase en entier, d’un coup, ce qui évite la phase hasardeuse d’assemblage des fragments épars de traduction. La principale nouveauté est de procéder par une analyse contextuelle globale, c’est-à-dire qu’à tous les niveaux d’analyse, le sens des mots est représenté par leur entourage, puis les mots sont regroupés en ensembles plus larges sémantiquement homogènes appelés « plongements de mots » (ou « word embedding » en anglais). L’avantage de cette technique est d’améliorer notablement la notion de contexte en prenant en compte non seulement le contexte du mot considéré, mais aussi celui des mots les plus proches sémantiquement, ce qui permet de mieux tenir compte des mots rares par exemple. L’analyse de la phrase est hiérarchique : pour chaque niveau (mot, groupe de mots, puis phrase complète) une représentation riche, contextuelle et dynamique est à l’œuvre (riche car un très grand nombre d’informations de natures très diverses est pris en considération ; dynamique et contextuelle car le contexte à prendre en considération change dynamiquement pour chaque unité linguistique à analyser). Un aspect intéressant de cette approche est que le système, en découvrant progressivement des régularités de façon incrémentale, identifie des groupes de mots linguistiquement liés entre eux. Autrement dit, sans que la syntaxe – c’est-à-dire les relations entre les mots – soit directement et explicitement formalisée, le système la reconstitue de lui-même en partie.

71Au-delà des performances, certaines caractéristiques de cette approche entrent en résonance avec les sciences cognitives, ce qui contribue aussi à sa popularité. Les mots, tout comme les syntagmes ou les phrases, peuvent être directement comparés selon leur degré de similarité, sur une échelle relative. Cette méthode permet d’identifier des synonymes ou des antonymes au sein d’une langue, mais aussi des équivalents traductionnels, si la méthode est appliquée à un couple de langues. Comme avec les méthodes statistiques classiques, c’est en fait un ensemble de mots dans la langue cible qui pourra être extrait comme traduction possible d’un mot donné dans la langue source, chaque mot étant « plus ou moins probable » en fonction du contexte. Enfin, comme la méthode prend aussi en compte des groupes de mots (et pas seulement des mots simples), des contraintes de nature syntaxique sont aussi captées par cette méthode d’analyse, même si la syntaxe n’y est pas explicitement encodée.

72On est ici très loin, voire à l’opposé des approches manuelles en vogue au début de la traduction automatique. L’approche par apprentissage profond peut dès lors susciter des discussions sur ses rapports avec l’apprentissage humain. Mais l’analogie a aussi ses limites. Ainsi, les systèmes ont encore besoin d’infiniment plus de données qu’un humain pour inférer des connaissances, ce qui pose problème pour les langues moins bien représentées sur Internet par exemple. Les systèmes d’apprentissage sont aussi complètement déconnectés du monde réel et n’ont aucune connaissance de sens commun par exemple, alors que ce serait utile pour traiter certaines ambiguïtés par exemple.

73L’approche neuronale s’est généralisée en quelques mois à l’ensemble des grands acteurs de la traduction automatique. Le mouvement a été particulièrement frappant à l’automne 2016, quand Google a proclamé avoir remplacé son système de traduction automatique fondé sur l’approche statistique par un modèle par apprentissage profond, avec une amélioration immédiate et très visible des résultats. A sa suite, tous les grands acteurs du domaine ont annoncé leur passage à l’apprentissage profond. Le contraste a été assez saisissant avec ce qui s’était passé 25 ans plus tôt, quand l’approche statistique avait mis plusieurs années à s’imposer. Dans les années 1990, certains acteurs du domaine opposaient statistiques et sémantique. En 2016, nul débat de ce type : l’amélioration du système de Google a été nette (au moins pour certains couples de langues comme français-anglais) et la popularité de l’apprentissage profond dans d’autres domaines (du jeu de go à la vision artificielle) a fait le reste.

74Tous les problèmes de la traduction automatique ne sont pas résolus pour autant. Certains sont des problèmes classiques, comme celui du traitement des mots « inconnus » (c’est-à-dire inconnus du système). La gestion des mots inconnus est un problème banal, courant mais toujours mal résolu et pour lequel chaque équipe met au point des « remèdes » plus ou moins efficaces (translittération ou copie directe si le mot a des chances d’être un nom propre, analyse de la structure du mot si elle est possible ; en pratique le mot est souvent juste copié ou « omis » dans la langue cible, faute de traitement adéquat).

75Plus fondamentalement, comme pour les approches statistiques, l’apprentissage profond nécessite toujours beaucoup de données (des corpus parallèles de plusieurs millions de mots). Il est donc douteux que l’on dispose jamais (ou en tout cas pas dans un futur proche) de corpus bilingues suffisants pour développer des systèmes efficaces, au-delà d’un cercle restreint d’une dizaine ou d’une quinzaine de langues bien représentées sur Internet. Cela est manifeste quand on s’intéresse à la qualité des traductions produites : celles-ci sont relativement bonnes entre le français et l’anglais, mais beaucoup moins pour d’autres couples de langues. À titre illustratif, les traductions de l’arabe ou du chinois, bien qu’elles aient donné lieu à de très nombreuses recherches, restent encore souvent défaillantes.

76Au-delà de la masse de données disponibles, différents facteurs expliquent la grande variation de la qualité des traductions obtenues. La traduction vers l’anglais est plus aisée que vers d’autres langues car l’anglais isole les mots et a une morphologie particulièrement pauvre. Autrement dit, les mots varient peu en anglais : le genre, le nombre, voire le temps verbal sont à peine marqués, alors que d’autres langues tels l’allemand ou le russe agrègent beaucoup d’informations sur le mot (sans parler des langues non indo-européennes qui sont souvent encore beaucoup plus complexes de ce point de vue). Par conséquent, pour traduire en allemand ou en russe, il faut d’abord procéder à une analyse syntaxique pour déterminer la fonction du mot dans la phrase, puis son cas et sa forme précise, telle qu’on la trouve dans les textes. Ce type d’analyse est complexe, et il faut ajouter que les systèmes passent encore fréquemment par l’anglais, utilisé comme une langue pivot, pour traduire (quand la source ou la cible n’est pas l’anglais), rajoutant autant d’erreurs potentielles. Toutefois, les grands acteurs eux-mêmes en sont encore là puisqu’ils ont observé qu’une double traduction passant par l’anglais donnait malgré tout de meilleurs résultats qu’une traduction directe entre les deux langues concernées.

77Enfin, la structure et la proximité linguistiques des langues ont aussi une influence majeure. La traduction entre langues indo-européennes, même parfois avec relativement peu de données disponibles, fonctionne mieux que la traduction vers le chinois ou l’arabe, car ces langues ont une structure et des principes linguistiques très différents de ceux de l’anglais. Une question intéressante est alors de savoir jusqu’où les approches à base d’apprentissage sur de grands corpus parallèles peuvent être améliorées ou, autrement dit, s’il y a des limites fondamentales et inhérentes à cette approche, qui exigeraient un retour de la linguistique dans l’affaire. On notera enfin des recherches, menées actuellement, pour produire des systèmes multilingues, c’est-à-dire des systèmes capables d’analyser simultanément plusieurs langues, au niveau syntaxique par exemple. De façon complémentaire, dans le domaine de la traduction automatique, des expérimentations sont en cours pour développer des systèmes capables de traduire sans corpus bilingues. Il s’agit de recherches très techniques, qui sont prometteuses dans la mesure où elles permettraient de développer des systèmes efficaces pour des « langues rares », pour lesquelles il n’existe pas de corpus parallèle.

4. La recherche en traitement automatique des langues aujourd’hui

78Le traitement des langues est un domaine extrêmement divers et il est impossible d’en faire un inventaire détaillé tant la tâche serait vaste. Il serait tout aussi illusoire d’entreprendre de faire une séparation entre recherche fondamentale et recherche appliquée car une telle frontière n’existe pas. Comme il est fréquent dans le secteur dit des « nouvelles technologies », les produits et les applications qui naissent chaque jour incluent tous une part de recherche. Dans le même temps, le TAL est par nature toujours appliqué à des langues et des textes particuliers, il n’y a donc pas vraiment de sens à parler de recherche « fondamentale ».

79Il est pourtant nécessaire de définir des sous-domaines de recherche afin de dresser une géographie du domaine du TAL et d’aider le lecteur à se repérer. C’est donc fort des précautions rappelées ici qu’on lira les pages qui suivent. On abordera dans cette partie la recherche en TAL aujourd’hui, avant d’en venir dans la section suivante aux applications du TAL, sachant, encore une fois, que les applications impliquent et incluent des résultats issus de recherches récentes.

  • 25 Formalisme qui permet de prédire un évènement futur en fonction du passé ; en TAL, on utilise les c (...)
  • 26 Modèle inspiré des chaînes de Markov, mais pouvant prendre une décision sur la base d’informations (...)
  • 27 Un SVM est un classifieur binaire (c’est-à-dire un système renvoyant une valeur 0 ou 1) en fonction (...)

80Un regard rapide sur le domaine pourrait laisser croire que la recherche en TAL est aujourd’hui uniquement l’apanage des informaticiens, et plus spécifiquement des spécialistes de l’apprentissage artificiel, voire des réseaux neurones. Cette observation n’est pas sans fondement : le TAL est devenu très étroitement lié à l’apprentissage artificiel et le domaine reflète l’évolution des techniques d’apprentissage, d’où certains effets de mode. Les chaînes de Markov25 ont été supplantées par les conditional random fields26, puis ce sont les support vector machines27 qui ont connu un immense succès, et c’est le deep learning (l’apprentissage profond, à base de réseaux de neurones) qui domine aujourd’hui. Au-delà des effets de mode, il faut souligner que cette évolution répond à une certaine logique et que ces méthodes ont graduellement permis de résoudre des problèmes de plus en plus complexes. Par exemple, la traduction automatique neuronale fonctionne aujourd’hui au niveau de la phrase prise dans sa globalité, ce qui est évidemment un avantage énorme par rapport aux méthodes antérieures qui essayaient de produire des traductions à partir de fragments de textes parfois disparates. C’est d’ailleurs cette évolution qui a éloigné le TAL de la linguistique et l’a rapproché de l’apprentissage artificiel : les systèmes s’améliorent régulièrement et l’apprentissage a su se renouveler et se transformer pour régulièrement répondre aux limites des approches précédentes. On peut observer que le « plateau de performances » – le moment où les performances des systèmes d’apprentissage vont stagner –, étape qui exigerait un retour des linguistes pour résoudre les problèmes de linguistique « pure », n’est toujours pas à l’ordre du jour.

81Cela ne veut pas dire que la linguistique n’a plus rien à voir avec le TAL, au-delà du rôle ingrat de « fournisseur de corpus annotés ». On peut au contraire voir plusieurs points de convergence possibles : le premier consiste à essayer de comprendre pourquoi les systèmes récents fonctionnent relativement correctement (suivant la langue, la tâche et le degré de performance exigé). On ne sait finalement que peu de choses sur les représentations internes manipulées par les réseaux de neurones et on peut imaginer qu’une meilleure connaissance de ces modèles aiderait d’une part à mieux comprendre comment ils fonctionnent, mais aussi, d’autre part, à mieux appréhender le fonctionnement du langage lui-même. Les réseaux de neurones, malgré leur nom, n’ont probablement rien à voir avec la façon dont fonctionnent le cerveau et les neurones « naturels », mais ils peuvent malgré tout fournir des informations précieuses, par exemple pour déterminer quelles sont les informations importantes, en interaction, pour résoudre tel problème particulier. Il reste, au-delà, une multitude de problèmes à l’intersection du TAL et de la linguistique, pour lesquels une interaction entre spécialistes des deux domaines serait utile, que ce soit en acquisition du langage, en linguistique historique ou en psycholinguistique.

82On commencera donc cet exposé en examinant différents domaines traditionnels du TAL et de la linguistique, à savoir la morphosyntaxe, la syntaxe et la sémantique, avant d’en venir à ces sous-domaines plus particuliers que nous venons d’évoquer, et où l’on voit un véritable échange avec le TAL.

4.1. Phonétique

  • 28 Voir Mariani (2002) pour une bonne synthèse en français.

83La phonétique n’est pas absente du TAL, mais elle est très liée à l’analyse du signal et à l’analyse de la parole, des domaines que nous avons fait le choix de ne pas traiter ici car l’analyse linguistique y est extrêmement réduite. Nous n’en dirons donc pas plus et renvoyons le lecteur à des ouvrages plus spécialisés en analyse du signal et de la parole par exemple28.

4.2. Analyse morphosyntaxique

84Pour le TAL, la morphosyntaxe correspond avant tout à la désambiguïsation des mots en contexte, afin de déterminer leur catégorie morphosyntaxique et, éventuellement, d’autres traits de nature morphologique. La difficulté de la tâche provient du fait que les mots sont ambigus (« sinistre » peut ainsi être un nom, un adjectif ou un verbe, « le » peut être un déterminant ou un pronom, etc.) : les mots doivent être désambiguïsés en fonction du contexte, mais le contexte d’un mot est constitué d’autres mots qui risquent d’être eux-mêmes ambigus. Il faut toutefois noter que globalement, il existe peu de phrases par nature ambiguës (en dehors des exemples classiques des livres de linguistique, comme « Le boucher sale la tranche », où la phrase peut avoir deux sens différents, suivant qu’on analyse sale comme un verbe ou comme un adjectif).

  • 29 Voir Poudat et Landragin (2017), en particulier le chapitre 2.

85Du fait de l’interdépendance des décisions à prendre pour désambiguïser les mots, la tâche est particulièrement difficile pour un humain. Il est beaucoup plus efficace de laisser la machine déterminer la bonne étiquette, et même des modèles relativement simples se révèlent très performants29. En pratique, la catégorie d’un mot peut souvent être déterminée en fonction de la catégorie des quelques mots qui le précèdent, la taille du contexte à prendre en compte variant en fonction du mot à désambiguïser (souvent les deux mots précédents peuvent suffire à prédire avec une assez bonne fiabilité la catégorie du mot suivant, étant donné qu’il s’agit de faire un choix parmi un ensemble de catégories répertoriées dans un dictionnaire).

Figure 4. Un texte analysé par un analyseur morphosyntaxique.

Figure 4. Un texte analysé par un analyseur morphosyntaxique.

Résultat de l’analyse d’un texte par le logiciel TreeTagger.

La figure 4 donne un exemple de phrase analysée morphosyntaxiquement. Chaque mot de la phrase est placé sur une ligne particulière, le mot est suivi d’une étiquette morphosyntaxique (PRO : DEM : pronom démonstratif ; NOM : nom, etc.) et de son lemme. On voit que l’analyse n’est pas exempte d’erreurs (ainsi, cette est un déterminant, et non un pronom – cette erreur peut provenir du dictionnaire utilisé). Certains mots posent en outre des difficultés particulières comme « du » (étiquette PRP : det, pour préposition et article contracté).

86L’apprentissage permet de disposer assez facilement et à moindre coût d’étiqueteurs morphosyntaxiques pour de nombreuses langues, y compris des langues anciennes et des langues rares. Il existe aussi des étiqueteurs pour certains types de langues particuliers (le français du xviie siècle, le français du xviiie siècle, le français utilisé sur Twitter, etc.). La mise au point d’un étiqueteur peut de plus se faire de manière incrémentale : l’annotation rapide d’un petit corpus permet de produire un premier annotateur, relativement peu fiable. Celui-ci sert alors à annoter un corpus plus grand que le linguiste peut corriger (ce qui est beaucoup plus rapide que de procéder à une annotation complète d’un texte brut sans pré-annotation). Ce nouveau corpus va permettre de produire un nouvel analyseur, beaucoup plus précis, et on procède ainsi de manière itérative jusqu’à ce que les performances correspondent aux exigences du projet.

87Les performances varient justement en fonction de la langue, des ressources disponibles (si on ne dispose pas d’un dictionnaire très complet de la langue à analyser, l’analyseur est confronté à de nombreux mots inconnus qui font obligatoirement chuter les performances globales) et le temps passé à la mise au point du système (de façon incrémentale, comme on l’a vu). Pour le français ou l’anglais, sur des corpus de presse, on dispose d’analyseurs ayant des performances de l’ordre de 0,95 à 0,98, c’est-à-dire que 95 à 98 % des étiquettes posées sur les mots correspondent à la bonne étiquette (un nom bien identifié en tant que nom, un verbe en tant que verbe, etc.). Il s’agit de scores élevés, surtout si on prend en compte le fait qu’inévitablement certains de ces mots sont des mots « inconnus », c’est-à-dire non répertoriés dans le dictionnaire (le système doit alors inférer une catégorie possible, en fonction du contexte et éventuellement de la morphologie du mot). Il faut malgré tout garder en tête que 95 % d’étiquettes correctes, cela veut dire 5 % de mots mal étiquetés, donc en moyenne plus d’un mot par phrase mal catégorisé. Suivant le modèle d’analyse utilisé par la suite, cela peut avoir des conséquences catastrophiques, surtout si le mot mal analysé est central pour l’analyse de la structure globale de la phrase. C’est un des problèmes des architectures classiquement utilisées en TAL : il s’agit souvent d’architectures en « pipe-line », où les modules sont enchaînés les uns aux autres (l’analyse syntaxique après l’analyse morphosyntaxique, l’analyse sémantique après l’analyse syntaxique, etc.). Les erreurs ne peuvent donc que se propager, ce qui rend les systèmes de TAL de ce type très fragiles.

4.3. Analyse syntaxique

  • 30 Jurafsky et Martin (2008).

88L’analyse syntaxique est une tâche traditionnelle du TAL. Il s’agit, à partir d’une phrase simple (dans laquelle chaque mot est associé à une catégorie morphosyntaxique : nom, verbe, etc.), d’analyser la structure de la phrase30. Cela peut se faire de deux manières : soit en identifiant les grands groupes syntaxiques dans la phrase (groupe nominal, groupe verbal) de manière hiérarchique (les dépendances entre groupes sont alors représentées par les relations d’inclusion, un groupe syntaxique comprenant lui-même d’autres groupes syntaxiques), soit en identifiant les dépendances au niveau du mot, en partant du verbe (vu comme le « noyau » de la phrase) : l’analyse porte alors d’abord sur les relations partant du verbe (de type verbe > nom_sujet ou verbe > nom_objet) jusqu’aux relations de « bas niveau » (par exemple entre un nom et son déterminant). Dans les deux cas (analyse en constituants vs analyse en dépendances), on obtient un arbre syntaxique ou une structure proche de type graphe, indiquant les relations syntaxiques, c’est-à-dire les liens entre les mots au sein de la phrase (figure 5).

Figure 5. Analyse syntaxique d’une même phrase dans quatre langues différentes : anglais, bulgare, tchèque et suédois.

Figure 5. Analyse syntaxique d’une même phrase dans quatre langues différentes : anglais, bulgare, tchèque et suédois.

Source de l’illustration : https://universaldependencies.org/​introduction.html (visité le 21 janvier 2019).

  • 31 Nivre et al. (2016).

On voit que les langues n’ont pas la même structure, même si elles expriment un contenu a priori équivalent. Certaines relations syntaxiques sont malgré tout partagées à travers les langues. L’encodage est fait ici au moyen des relations définies dans le référentiel Universal dependencies, qui vise à coder avec les mêmes étiquettes les relations équivalentes d’une langue à l’autre, facilitant ainsi les analyses contrastives entre langues31.

89Comme on peut s’en douter, les systèmes aujourd’hui ne fonctionnent généralement plus à partir d’ensembles de règles écrites à la main. Ils exploitent au contraire leur propre jeu de connaissances obtenu automatiquement par apprentissage à partir d’un corpus type, dit « corpus d’entraînement » (car il s’agit « d’entraîner » le système d’analyse à trouver la bonne solution à partir de l’observation de milliers ou de millions d’exemples). L’approche n’est pas magique : elle repose sur l’observation d’un très grand nombre d’exemples et les performances des systèmes automatiques sont dues à leur capacité à évaluer des contextes complexes et à faire des généralisations que l’humain ne saurait prévoir. Il existe aujourd’hui des systèmes très performants pour le français, l’anglais et la plupart des langues ayant une longue tradition de recherche en TAL (y compris pour des langues non indo-européennes, comme l’arabe ou le chinois par exemple). On trouve relativement facilement des outils libres et gratuits disponibles sur le Web pour quelques langues, mais le choix demeure malgré tout limité pour la plupart des langues en dehors de l’anglais.

90Les linguistes ne sont pas complètement ignorés dans la mesure où l’annotation des corpus nécessaires à l’entraînement des systèmes est le résultat du travail, long et patient, de groupes de linguistes parfois très nombreux. Cela n’est d’ailleurs pas sans conséquences, les linguistes étant parfois assimilés à de simples « fournisseurs de corpus », ce qui n’est évidemment pas un rôle très gratifiant.

  • 32 Id.

91Pour finir sur l’analyse syntaxique, on peut revenir sur une initiative déjà citée, Universal dependencies, visant à unifier les schémas d’annotation syntaxique employés dans les différents projets d’annotation32. En effet, chaque groupe de recherche, ayant mis au point des corpus annotés spécifiques, a eu tendance à utiliser des jeux d’annotations différents, ce qui a eu pour conséquence qu’une même relation syntaxique peut avoir reçu des étiquettes différentes dans deux corpus différents, tandis qu’une même étiquette pouvait en fait recouvrir des réalités différentes. Un effort a donc été fait pour essayer de définir un jeu d’annotations (purement syntaxiques) suffisamment générique pour pouvoir être employé dans différentes langues, c’est l’initiative Universal dependencies (une soixantaine de langues à ce jour ont produit des données validées et intégrées à la base Universal dependencies). Évidemment, cela implique qu’il y ait un jeu de relations fixe et partagé par toutes les langues (les différentes familles de langues ont aussi la possibilité de créer des étiquettes spécifiques si nécessaire). Sur le plan linguistique, cette initiative a permis de lancer des débats extrêmement fructueux sur la notion de catégorie, de relation syntaxique et de variation entre langues.

  • 33 Lim et al. (2018).

92La disponibilité de corpus annotés syntaxiquement pour une soixantaine de langues dans un format commun est un grand progrès, mais il existe encore de nombreuses langues pour lesquelles il n’existe pas de telles ressources. Partant, une grande partie des recherches s’intéresse aujourd’hui à la production d’analyseurs pour des langues dites « sous-dotées »33. Il existe différentes techniques pour développer des analyseurs pour des langues avec peu de ressources, mais la technique la plus répandue consiste à procéder par « transfert de connaissances », d’une langue à l’autre, avec ou sans corpus parallèle. Cette approche repose sur l’idée qu’il est possible d’exprimer des informations similaires dans toutes les langues, même si toutes les langues n’« encodent » pas ces informations de la même manière. Un moyen de développer un analyseur est alors de repérer ces informations dans une langue source et d’essayer d’inférer la façon dont elles sont exprimées dans la langue cible. Le processus est assez direct si on dispose d’un corpus parallèle (c’est-à-dire un corpus où à chaque phrase de la langue source correspond une phrase dans la langue cible) annoté du côté de la langue source : l’analyseur essaie alors de découvrir des correspondances entre les langues en partant du principe que les mêmes idées, c’est-à-dire les mêmes relations entre les mots, se retrouvent de part et d’autre, en langue source et en langue cible. Il est aussi possible de développer ce type de technique sans lexique, ni corpus parallèle, mais l’approche est alors évidemment moins fiable et moins robuste. L’analyse procède en essayant de repérer des similarités structurelles entre langues, ce qui reste relativement hasardeux (par exemple, si un verbe est ditransitif dans la langue source, il y a des chances pour qu’il ait aussi deux compléments dans la langue cible, etc.).

4.4. Analyse sémantique

93Il est impossible de décrire de manière synthétique les recherches touchant à la sémantique tant ce domaine recouvre des choses différentes. Une distinction pratique est celle qui place d’un côté la sémantique lexicale et de l’autre la sémantique propositionnelle ou discursive, c’est-à-dire d’un côté l’étude du sens des mots, de l’autre l’étude des relations entre les mots dans la phrase et au-delà de la phrase. Il existe évidemment un recouvrement entre ces deux niveaux : certains mots ont des dépendants et leur sémantique entre donc directement en résonance avec la structure de la phrase.

  • 34 Polguère (2016).
  • 35 Kadmon (2001), Charolles (2004) et Corblin (2013).
  • 36 Mann et Thomson (1988).
  • 37 Kamp et Reyle (1993).

94La sémantique lexicale a donné lieu à de nombreuses recherches sur le sens des mots en eux-mêmes. Comment définir le sens ? Comment déterminer le nombre de sens d’un mot ? Peut-on calculer le sens d’un mot ou d’une expression à partir d’atomes de sens, parfois appelés primitives lexicales ? etc.34 Des recherches complémentaires ont porté, comme on l’a dit, sur les relations des prédicats avec leurs dépendants (essentiellement les verbes, les noms et les adjectifs prédicatifs). Il existe enfin de très nombreuses recherches portant sur les relations entre propositions et entre phrases, sur les notions de cohérence et de cohésion textuelles, sur la pragmatique35. On citera ainsi l’analyse de différents phénomènes de portée (négation, quantifieurs, modaux), l’analyse de la référence et de la coréférence, l’analyse de figures de style comme la métonymie ou la métaphore, etc. Les liens (explicites ou implicites) entre phrases ont aussi fait l’objet de très nombreuses recherches et ont abouti à des théories comme la RST (Rhetoric Structure Theory36) ou la DRT (Discourse Representation Theory37).

  • 38 Mikolov et al. (2013).

95La variété des modes de représentation possibles a peut-être permis aux recherches en sémantique de garder un lien plus étroit entre théorie linguistique et formalisation informatique que d’autres domaines du traitement automatique des langues. Il faut toutefois noter que depuis quelques années, l’analyse distributionnelle généralisée a permis le développement de modes de représentation extrêmement populaires et surtout extrêmement efficaces (les plongements de mots, ou word embeddings, où les mots sont « plongés » au sein d’ensembles de mots plus larges apparaissant dans les mêmes contextes38). Cette approche très calculatoire du sens a sans doute rendu beaucoup plus lâche le lien entre linguistique et TAL, au détriment des théories sur le lexique, développées jusque-là. En ce sens, la sémantique suit le courant général du TAL vers des approches plus empiriques.

  • 39 Firth (1957).

96La sémantique lexicale est, on vient de le voir, actuellement marquée par des approches fondées sur l’observation de l’emploi des mots à partir de très grands corpus (plusieurs milliards de mots). Il est ainsi possible de mettre en rapport les mots apparaissant dans des contextes similaires (en reprenant ainsi une idée déjà exprimée par Firth39). La puissance des approches statistiques est donc d’offrir « naturellement », par simple observation de corpus, une représentation continue du sens des mots (en utilisant toutefois des techniques informatiques pointues, dites de « vectorisation » et de « réduction de dimensions » qui permettent de rendre ces observations gérables et calculables, ce qui nécessite des ordinateurs extrêmement puissants vu qu’il s’agit d’observer l’emploi de milliers de mots à partir de corpus de millions voire de milliards d’occurrences : l’idée générale est donc assez simple à saisir mais la mise en œuvre informatique est complexe). Ce mode de représentation continu du sens est obtenu de manière purement calculatoire, mais il semble bien adapté à la langue. On peut, par exemple, représenter le rapport entre deux mots sous forme de « proximité sémantique » : ainsi, « voiture » sera très proche d’« automobile », relativement proche de « véhicule » mais très éloigné de « reblochon » ou « penser ». Au lieu d’une distinction binaire synonyme / non synonyme qui n’a guère de sens, les approches continues permettent une représentation relativement pertinente des liens entre mots. Il faut toutefois noter que ces méthodes ne permettent pas de « typer » les liens entre mots, alors qu’il est souvent utile d’avoir aussi des relations sémantiques typées (hyponyme / hyperonyme, partie / tout, etc.). Les représentations continues (les vecteurs de mots ou les plongements de mots, c’est-à-dire des listes de mots apparaissant fréquemment dans le contexte d’un mot donné) peuvent avoir tendance à mettre ensemble des mots comme « voiture », « volant », « roue », « conduire », par exemple : il existe évidemment un lien entre ces mots, mais on aimerait avoir des relations sémantiques précises, typées, ce que les techniques actuelles ne font pas directement, en général.

  • 40 Abeillé (1993).

97Les recherches sur le niveau prédicatif ont donné naissance à des travaux extrêmement intéressants ces dernières décennies. De très nombreux travaux sont nés dans les années 1970 (et ont continué de se développer jusqu’à aujourd’hui pour certains projets). Passé l’enthousiasme suscité par la grammaire générative à ses débuts et la quête un peu vaine de principes généraux organisant les langues du monde, il a bien fallu se rendre à l’évidence : une grande partie de l’information utile pour l’analyse des langues ne se cache pas dans des principes généraux mais doit être encodée dans le lexique. On a alors assisté au développement des grammaires « guidées par les têtes », où la notion de « tête » renvoie aux éléments prédicatifs du lexique qui organisent de fait la structure de la phrase40. Autrement dit, la mise au point d’outils d’analyse performants exige de disposer d’un lexique complet de la langue, où à chaque mot sont associées une structure prédicative et différentes informations sur chacun de ses dépendants. Il s’agit donc de programmes de recherches à la fois ambitieux et extrêmement puissants vu que le prédicat (le prédicat verbal en particulier) encode en fait en grande partie la structure des phrases.

  • 41 Gross (1975).
  • 42 Fellbaum (1998).
  • 43 Fillmore (2002).
  • 44 Id. (1982).

98Comme on l’a dit dans la section consacrée à l’historique du domaine, dans les années 1970, Maurice Gross et son équipe mettent au point le « lexique-grammaire » du français, c’est-à-dire une description systématique et aussi exhaustive que possible des formes prédicatives de la langue avec, pour chaque classe lexicale, un ensemble de propriétés possibles et, pour chaque élément de la classe, pour chaque verbe par exemple, un ensemble de + et de – suivant qu’une propriété est supportée ou non par l’élément considéré41. Par exemple, pour la passivation en de, danser recevait une valeur – et « aimer » une valeur + , car « on est aimé de qqn » mais on ne peut dire « *être dansé de qqn ». Le français était dans les années 1980 et au début des années 1990 une des langues les mieux pourvues en matière de dictionnaires électroniques, du fait des travaux de Maurice Gross et de son équipe. Depuis, des projets essentiellement américains ont permis d’aller plus loin en proposant des modèles plus modulaires, plus génériques, et surtout en suscitant des initiatives comparables pour plusieurs langues. On dispose ainsi du réseau sémantique Wordnet42, initialement développé pour l’anglais mais qui a donné lieu à de multiples initiatives pour de nombreuses autres langues. La recherche continue aussi pour dériver de manière automatique ou semi-automatique des réseaux sémantiques compatibles avec Wordnet directement à partir de gros corpus. Il existe aussi de multiples projets visant à développer des descriptions syntaxico-sémantiques à large échelle, dans des cadres théoriques relativement divers. On citera ainsi Framenet43, un projet visant à produire une description des structures prédicatives de l’anglais suivant la théorie dite Frame semantics44. Cette théorie avait été développée par Fillmore depuis les années 1970, mais c’est dans les années 1990 que le projet Framenet a véritablement pris de l’ampleur, avec comme objectif de produire une ressource utilisable aussi bien par les humains que par les machines. Il y a donc d’un côté la ressource elle-même, et de l’autre un corpus annoté pouvant donner lieu à des recherches avancées mettant en jeu des techniques informatiques, notamment des techniques d’apprentissage artificiel pour inférer de nouvelles connaissances. On voit ici un lien fort qui subsiste entre pratique et théorie, modélisation linguistique et réalisation informatique, ce qui rend ce projet extrêmement intéressant.

Figure 6. Analyse sémantique des prédicats et de leurs arguments au moyen de cadres, suivant la théorie appelée Frame semantics.

Figure 6. Analyse sémantique des prédicats et de leurs arguments au moyen de cadres, suivant la théorie appelée Frame semantics.

Source de l’illustration : https://www.groundai.com/​project/​frame-semantic-parsing-with-softmax-margin-segmental-rnns-and-a-syntactic-scaffold/​ (visité le 21 janvier 2019).

Sur la figure 6, chaque ligne d’annotation correspond à un cadre, c’est-à-dire à un prédicat (généralement un verbe) auquel sont associés des acteurs ayant un rôle sémantique particulier. Les prédicats sont marqués par un encadré de couleur, et les acteurs du prédicat sont marqués par des traits de couleur (il y a ici quatre lignes, correspondant aux quatre prédicats de la phrase ; les choix ne sont pas toujours intuitifs, comme dans notre exemple où c’est l’adjectif « major » qui est considéré comme prédicatif, et non le nom « role »).

99La partie purement TAL vient ensuite : il s’agit de développer des analyseurs sémantiques capables d’annoter les textes (phrase par phrase) en fonction des connaissances des dictionnaires Framenet, à l’image des analyseurs syntaxiques entrevus précédemment. De très nombreux analyseurs ont été mis au point ces dernières années, mais ils souffrent encore de défauts majeurs. Outre les erreurs d’analyse, plus nombreuses pour le niveau sémantique que pour le niveau syntaxique, une difficulté supplémentaire est le caractère très partiel des bases de données de type Framenet, même pour l’anglais. Le coût de mise au point de ces ressources est tel qu’il est très difficile de faire aboutir ces projets, qui nécessiteraient des équipes de plusieurs dizaines de linguistes travaillant ensemble pendant des années. De plus, les utilisateurs se focalisent souvent sur une application précise (achat / vente d’entreprises, analyse d’opinions ou de sentiments), qui nécessite des étiquettes sémantiques spécifiques qui ne sont pas obligatoirement celles de Framenet. Il y a donc une vraie difficulté au niveau de la précision de la description et de l’adaptabilité des bases de données à des besoins spécifiques. On peut même se demander si ces projets peuvent aboutir puisque les étiquettes (prédicats et acteurs) sont définies a priori et ne correspondent pas obligatoirement à tous les usages en contexte.

  • 45 Poibeau (2011).
  • 46 Péry-Woodley et al. (2009).

100Au-delà de ces recherches en sémantique lexicale, il existe aussi de très nombreuses recherches autour des relations entre les mots ou les phrases, allant au-delà de la simple analyse prédicative. L’analyse des anaphores et plus généralement des chaînes de coréférence est un domaine clé, car il est par exemple primordial de savoir « qui parle » et « de qui on parle » dans un texte journalistique (c’est-à-dire, quelle est la source des discours rapportés), et il faut donc être capable de repérer les différentes façons de faire référence à une personne dans un texte (« Emmanuel Macron... le Président... il... » etc.)45. Comme on l’a déjà dit, les relations entre les phrases ont aussi donné lieu à de nombreuses théories et à des travaux importants, aussi bien dans une perspective linguistique que dans une perspective de traitement automatique. Cette tâche est particulièrement difficile : il y a parfois des connecteurs entre les phrases, mais la plupart d’entre eux sont ambigus. Surtout, la plupart des phrases dans un texte quelconque ne sont pas liées explicitement par un connecteur à la phrase qui précède : la relation est alors implicite et il est extrêmement difficile de l’analyser automatiquement46. Avoir une représentation des relations entre les phrases est important pour avoir une idée de la structure des textes, ce qui peut avoir des applications directes en matière de résumé automatique par exemple, où il est important de pouvoir déterminer l’importance relative d’une phrase ou d’un passage donné.

4.5. Une analyse modulaire autour de modules réutilisables

101Au-delà du découpage traditionnel en phonétique, morphologie, syntaxe et sémantique, le TAL a progressivement vu émerger des besoins, avec de nouveaux modules et de nouvelles tâches. C’est en particulier le cas de l’extraction d’informations dans les années 1980-1990. Le département de la Défense américain, après avoir financé de très nombreuses équipes et de très nombreux projets autour de la « compréhension de textes » dans les années 1970 et 1980, a essayé de mieux connaître l’état de l’art. La tâche s’est révélée impossible dans un premier temps, chaque équipe ayant une conception très différente de la « compréhension de textes ».

  • 47 Poibeau (2003).

102Après quelques années de réflexion, il est apparu que la tâche pouvait être décomposée, normalisée et faire l’objet d’étapes et de travaux relativement indépendants. On considère ainsi, séparément, le repérage des entités (les principaux acteurs du texte), de leurs différentes dénominations, puis de leurs relations47. Ce découpage a permis de définir des modules disponibles et a priori réutilisables dans de nombreux contextes. Ces tâches, toujours d’actualité aujourd’hui, sont les suivantes :

  • Analyse des entités nommées : les entités nommées regroupent l’ensemble des séquences faisant référence à des entités connues, comme des personnes, des lieux, des entreprises ou des organisations. Par extension, les dates et les autres expressions numériques sont fréquemment assimilées aux entités nommées. Les termes techniques sont aussi parfois assimilés à des entités, ce qui revient alors à élargir la classe à toutes les expressions d’intérêt pour un domaine donné.

  • Analyse de la coréférence : une même entité peut être dénommée de façon très variée dans un même texte (par ex. « Emmanuel Macron », « Manu », « le président Macron », « le président », « il » …). L’analyse de la coréférence vise à reconnaître les différentes désignations d’une même entité, ce qui a un intérêt évident pour la compréhension du texte : on peut ainsi affecter à une même entité l’ensemble des informations qui la concernent, quelle que soit la forme sous laquelle cette entité a été dénommée en pratique.

  • Analyse des relations entre entités : cette tâche, au nom explicite, vise à identifier les relations entre entités telles qu’elles sont exprimées dans les textes. L’analyse de relation suppose une analyse correcte des prédicats (notamment les verbes et les noms prédicatifs) et, plus généralement, une analyse syntaxique correcte si on veut une analyse fiable et précise.

  • Analyse des évènements : il n’y a pas de définition claire et précise de ce qu’est un événement mais, au-delà de la simple analyse des relations, il est fréquemment nécessaire d’identifier des ensembles de plus haut niveau, rassemblant un certain nombre de relations simples dont l’agrégat est assimilé à un évènement.

D’autres modules peuvent bien entendu être définis pour des besoins ou des tâches particulières. On a ainsi vu apparaître depuis quelques années une analyse plus fine des informations temporelles au sein des textes, ce qui est intéressant pour un grand nombre d’applications impliquant des développements plus ou moins longs et leurs enchaînements. Les précédents modules semblent toutefois garder une plus grande généricité et être les plus communément repris au sein d’applications impliquant l’analyse de grandes masses textuelles.

103La définition de tâches précises et la mise au point des modules de traitement correspondants ont eu pour conséquence une amélioration de la « réutilisabilité » des systèmes. Dans le même temps, à partir du moment où un module peut être remplacé par un autre effectuant un traitement en principe similaire, il est possible de les comparer directement et simplement. Dès lors, au cours des années 1980, l’évaluation devient une question majeure, et la mise au point de mesures d’évaluation devient rapidement un domaine de recherche à part entière.

5. L’évaluation des systèmes de traitement automatique des langues

104Un point important pour le traitement automatique des langues (comme pour tout domaine scientifique expérimental) est celui de l’évaluation. Cet aspect n’était pas si important de prime abord : les enjeux commerciaux étaient faibles et il était hors de question (ou hors de portée) de traiter la langue « courante ». Partant, pendant longtemps la validation d’un système a consisté à montrer que celui-ci pouvait traiter certains phénomènes linguistiques particuliers considérés comme importants et/ou particulièrement complexes.

105Pour l’analyse syntaxique par exemple, les développeurs disposaient souvent dans les années 1960-1980, de « test suites », un ensemble de phrases types que le système devait analyser. Chaque phrase comprenait une construction ou un phénomène linguistique particulier et l’ensemble devait illustrer les difficultés typiques d’une langue ou d’un phénomène donné. Le vocabulaire spécifique était enregistré a priori et la validation concernait essentiellement la capacité du système à faire face aux différentes phrases et surtout l’adéquation du type de modélisation obtenu en résultat. Il s’agissait donc d’une évaluation essentiellement qualitative. On sait que ce type d’évaluation est problématique. Le principal problème vient du fait que dans ce genre de test, chaque phrase illustre un phénomène particulier afin de vérifier qu’il est bien analysé par le système. Or, dans la réalité, de nombreuses phrases comportent des difficultés mêlées et la capacité des systèmes à y faire face est très mal prédite par les évaluations au moyen de test suites. La richesse du lexique d’une langue amène aussi à gérer simultanément de très nombreuses ambiguïtés qui ne sont pas du tout prises en compte par les test suites.

106La période récente a changé la donne : les systèmes ont maintenant des contraintes opérationnelles. Il n’y a donc pas de sens à les évaluer au moyen de tests connus à l’avance, avec un vocabulaire limité et prédéfini. C’est au contraire la capacité des systèmes à faire face à l’imprévu (à des phrases complexes, à des phénomènes linguistiques en interaction, à des mots et des expressions non connus à l’avance) qui a une importance cruciale.

5.1. L’exemple de l’évaluation en traduction automatique

  • 48 White et al. (1994) et Poibeau (2017).

107Le domaine de la traduction automatique illustre à nouveau de manière particulièrement pertinente l’évolution du domaine de l’évaluation. Dans les années 1950, les phrases à traduire sont connues à l’avance. Dans les années 1950 ou 1960, il est hors de question pour un système informatique d’embarquer le vocabulaire complet d’une langue donnée, au contraire : la mémoire des ordinateurs de l’époque oblige à limiter le vocabulaire et la complexité des règles d’analyse. On est alors davantage dans une étape de « faisabilité » (c’est-à-dire, en informatique, une étape destinée à évaluer, à travers un exemple réduit, si une tâche est réaliste ou non) que de test en grandeur nature, même si les ambitions de l’époque sont grandes. Progressivement, de manière éparse tout d’abord puis de manière plus soutenue à partir des années 1990, avec l’avènement des approches statistiques, le besoin de méthodes d’évaluation plus précises se fait jour. Pour la traduction automatique, le seul mode d’évaluation possible semble être l’évaluation humaine, qui procède par introspection (c’est-à-dire tout simplement en se demandant si le texte produit est satisfaisant ou non) ou par la comparaison d’une traduction automatique avec une traduction humaine de référence. Afin d’obtenir des résultats plus constants et surtout plus précis qu’une simple note globale affectée à une traduction, divers tests plus précis sont imaginés48.

  • Test de compréhension. Il s’agit d’un test où l’évaluateur doit répondre à des questions définies à l’avance en fonction du texte. La qualité du système est déterminée par le nombre de questions auxquelles le lecteur de la traduction a été capable de répondre correctement. Comme les premières campagnes concernaient un nombre limité de systèmes capables de traduire vers l’anglais à partir de langues variées, cette méthode était bien adaptée : le texte à traduire était fourni dans différentes langues et la traduction en anglais devait alors pouvoir donner lieu à comparaison (ce test est d’ailleurs initialement nommé « direct comparability » car il est censé permettre une comparaison directe de différents systèmes s’attachant à différentes langues sources). Ce test pose toutefois des difficultés, dans la mesure où les textes d’origine ne sont pas exactement les mêmes : il n’est donc pas facile de dire si les problèmes viennent du texte d’origine ou du système de traduction lui-même. Ce test sera toutefois conservé pendant longtemps pour mesurer l’informativité d’une traduction (informativeness).

  • Panel d’évaluation. L’idée la plus évidente pour évaluer la qualité de traductions consiste à faire appel à des jugements humains, même si on sait la très grande subjectivité de ceux-ci. Cette méthode semble attrayante dans la mesure où ce genre de mesure sert par ailleurs à évaluer la qualité de traductions humaines. Il s’agit donc d’une mesure largement diffusée et qui permet de comparer directement traductions automatique et non automatique. Ce type d’évaluation se heurte toutefois à deux difficultés majeures. Sur le plan pratique tout d’abord, il est très difficile et coûteux de mobiliser un ensemble d’experts pendant toute la durée d’une évaluation. Plus fondamentalement, la nature des erreurs dans les textes produits automatiquement est si variée qu’il est extrêmement difficile pour un expert d’affecter une note globale à un texte (ou alors cette note varie beaucoup d’un expert à l’autre, suivant l’importance attachée à tel ou tel type d’erreur par un expert donné). Malgré différentes tentatives d’homogénéisation des stratégies de notation, de grandes variations demeurent lors des expériences pratiques.

  • Adéquation (adequacy) et fluidité de la traduction (fluency). Vu l’échec de la note globale sur le texte, on a alors pensé à recourir à deux scores, appelés adequacy et fluency. Le score d’adéquation mesure à quel point une traduction automatique rend compte d’éléments d’information contenus dans un texte de référence (produit par un traducteur humain professionnel). Ces éléments d’information sont généralement des fragments de phrases contenant une information non ambiguë et facile à repérer. La fluidité de la traduction (fluency) vise à vérifier la bonne formation des phrases, leur caractère idiomatique et la facilité qu’a un lecteur à les comprendre. Ces critères semblent plus faciles à évaluer que l’affectation d’un score global aux traductions produites, mais ils restent subjectifs et les notes données par les experts varient encore sensiblement dans ce genre d’évaluation.

  • Traduction assistée. Une dernière stratégie d’évaluation part du constat qu’aucun système automatique n’est capable de fournir une traduction parfaite (et, pendant longtemps, les résultats étaient même très imparfaits). Il semble donc pertinent d’évaluer dans quelle mesure un outil de traduction automatique peut permettre d’obtenir une bonne traduction, moyennant l’intervention d’un traducteur humain. Les expériences menées en ce sens au début des années 1990 impliquaient ainsi un traducteur novice, censé être plus à même de tirer parti d’une traduction imparfaite qu’un traducteur chevronné (qui est supposé voir plus directement comment « bien » traduire une phrase sans l’aide d’un processus automatique). L’évaluation porte sur la comparaison entre le résultat du processus automatique versus le résultat de la traduction améliorée par intervention du traducteur. Il reste toutefois très difficile d’évaluer l’apport d’un système automatique, puisque chaque novice est différent et utilise l’outil différemment au cours d’une évaluation. De fait, les résultats sont très difficilement comparables d’un individu à l’autre, et sont donc très subjectifs.

Globalement, on sait que les notes attribuées par des individus dans l’absolu sont très variables et comportent un degré de subjectivité important, mais les classements sont quant à eux beaucoup plus fiables et beaucoup plus utiles. Cela veut dire concrètement que si l’on demande à des évaluateurs de mettre des notes sur le résultat de différents systèmes, le résultat sera subjectif et variable d’un évaluateur à l’autre. En revanche, si on demande de classer les systèmes, on obtient un résultat beaucoup plus fiable et assez largement reproductible d’un évaluateur à l’autre.

108Ce mode d’évaluation a quand même encore un défaut majeur, surtout à l’heure où chaque système peut produire de multiples traductions en fonction de simples changements de paramètres : il est difficile et coûteux de mobiliser une équipe d’évaluateurs en permanence, d’autant que la tâche est fastidieuse et ingrate. C’est pourquoi, dès les années 1990, les chercheurs essaient de mettre au point des méthodes d’évaluation fiables (c’est-à-dire bien corrélées aux évaluations humaines) entièrement automatiques, donc rapides et complètement reproductibles.

  • 49 Papieni et al. (2002).

109Une mesure d’évaluation automatique émerge assez rapidement. Il s’agit de la mesure appelée BLEU49. Le principe en est relativement simple : le texte à évaluer est découpé en séquences continues, par exemple des séquences de quatre mots. Pour la phrase qui précède, ces séquences de quatre mots sont : « il s’agit de la », « s’agit de la mesure », « de la mesure appelée », « la mesure appelée BLEU », etc. Le système calcule ensuite combien de ces séquences sont contenues dans une ou, en général, plusieurs traductions de référence. Le score est ensuite normalisé de façon à obtenir une valeur entre 0 et 1 (si le score est 0, il n’y a aucune séquence de 4 mots commune entre le résultat de la traduction automatique et les traductions de référence ; si le score est 1, toutes les séquences de la traduction automatique étaient déjà contenues dans les traductions de référence). Un mode d’évaluation relativement similaire peut être conçu pour le résumé automatique par exemple : on compare ainsi le nombre de séquences communes entre le texte produit automatiquement et un ou des résumés de référence. Dans les deux cas, certains mots ou certaines expressions essentiels peuvent être considérés comme plus importants et recevoir un « poids » supérieur (c’est-à-dire que le système reçoit un bonus s’il a réussi à produire ces séquences essentielles). Dans tous les cas, il s’agit de comparer des segments relativement courts de texte à un texte de référence.

110On peut être surpris par le caractère un peu frustre des méthodes d’évaluation automatique. Leur simplicité est toutefois ce qui a fait leur succès : elles sont faciles à mettre en œuvre et produisent des résultats reproductibles. Plus important, les scores relatifs qu’elles fournissent (par exemple pour classer une dizaine de résumés ou de traductions) sont relativement bien corrélés avec les résultats humains. Il en va de même pour évaluer les différents paramètres d’un système de traduction par exemple : une mesure comme BLEU, aussi simple soit-elle, fournit généralement des résultats pertinents et permet ainsi de choisir les bons paramètres sans avoir besoin d’une évaluation plus précise. Il faut toutefois garder à l’esprit que ce type d’évaluation reste fragile et ne peut se substituer à un examen humain de la qualité des traductions ou des résumés.

5.2. D’autres mesures d’évaluation

  • 50 Poibeau (2003, 2011) et Paroubek et al. (2007).

111En dehors de la traduction automatique, un grand nombre d’applications vise à sélectionner des éléments parmi un ensemble, ou à annoter (ce qui revient aussi à sélectionner puis à choisir une étiquette particulière pour les objets sélectionnés) : sélection de documents pertinents par rapport à une requête (moteur de recherche) ou annotation d’entités nommées par exemple (reconnaissance des noms propres, des noms de lieux, etc.). Des stratégies d’évaluations automatiques ont aussi été imaginées pour ce type de cas50.

112Il faut en fait déterminer deux types d’erreur. D’une part, les éléments reconnus à tort par le système : par exemple les liens vers des documents non pertinents proposés par un moteur de recherche. D’autre part, les éléments non repérés par le système : par exemple, un document pertinent par rapport à ma requête que le système n’a pas pu identifier (le document peut être pertinent mais ne pas contenir les mots clés de la requête par exemple). Le premier cas est relativement facile à évaluer : il suffit d’examiner les 100 ou 1 000 premiers liens vers des documents du moteur de recherche et, pour chacun d’eux, de déterminer s’il s’agit d’un lien pertinent ou non. Le second cas est beaucoup plus difficile à calculer en pratique : si le fonds documentaire est composé d’un million de documents, il est quasiment impossible de déterminer à la main et a priori ceux qui sont pertinents.

113Cette mesure peut aussi s’appliquer à une tâche d’annotation ou de reconnaissance. Par exemple, si le système doit « reconnaître » (ou annoter, ce qui est en fait la même tâche) les noms de lieux, je peux évaluer ce qui a été reconnu à tort comme un nom de lieu, et ce qui a été oublié par le système (en plus de ce qui a été reconnu correctement, bien évidemment). Il faut donc disposer de deux mesures différentes pour caractériser un système : on parle de précision et de rappel.

  • La précision correspond au pourcentage d’éléments pertinents identifiés par le système parmi tous les éléments identifiés.

  • Le rappel correspond au pourcentage d’éléments pertinents identifiés par le système parmi tous les éléments à identifier.

Par exemple, si le fonds documentaire est composé de 100 documents, dont 8 sont pertinents par rapport à la requête utilisateur. Le système propose 12 documents, dont 6 sont pertinents. La précision est alors de 0,5 (6 documents sont pertinents parmi les douze proposés, donc 6/12 = 0,5). Le rappel est de 0,75 (6 documents pertinents ont été retrouvés parmi les 8 qui étaient à retrouver, donc 6/8 = 0,75). On parle aussi de « bruit », qui est le complémentaire de la précision (6 documents ont été proposés à tort, c’est le « bruit ») et de « silence », pour désigner les documents qui auraient dû être identifiés mais ne l’ont pas été (ici, il y a 2 documents qui ont été « oubliés », c’est le « silence »).

114Pour obtenir une seule mesure et pouvoir comparer plusieurs systèmes, ou plusieurs versions d’un même système, on calcule la F-mesure, qui est en fait la « moyenne harmonique » de la précision et du rappel. Si on donne le même poids à la précision et au rappel, la F-mesure est équivalente à :

  • F-mesure = 2 x (précision x rappel) / précision + rappel

La moyenne harmonique permet de privilégier les systèmes ayant un rappel et une précision homogènes (par opposition à une simple moyenne qui ne permettrait pas de privilégier ainsi l’homogénéité des résultats entre précision et rappel).

115Ces mesures peuvent sembler un peu techniques, mais elles sont essentielles pour le domaine. Elles permettent de comparer des systèmes sur une base objective (on peut discuter de la pertinence des mesures, en particulier des mesures automatiques, mais celles-ci donnent des résultats rapides, stables et reproductibles). Il y a eu de nombreuses propositions d’amélioration de ces mesures (l’évaluation et les mesures d’évaluation constituent un domaine de recherche en soi au sein du TAL), mais ces propositions ont souvent produit des mesures plus complexes, sans bénéfice clair.

5.3. Les campagnes d’évaluation

116Une campagne d’évaluation vise à évaluer par comparaison, de façon contrôlée et en temps limité, des systèmes autour d’une tâche commune. En pratique, des données sont fournies, et un descriptif très précis et très normé du résultat recherché est défini. L’évaluation est faite en comparant les résultats fournis par les systèmes à des résultats prédéfinis, généralement produits par des humains. On peut ainsi classer des systèmes, comparer les approches et les performances, et les avancées au cours du temps (sur ce sujet, on consultera les références données dans la section précédente).

117À partir du moment où la tâche a été clairement définie (identifier des documents par rapport à une requête pour la recherche d’information, retrouver des informations clés pour l’extraction d’information, produire une traduction ou un résumé d’un texte source pour la traduction ou le résumé automatiques), un protocole et un calendrier sont définis (date de début et de fin de campagne, format des données à rendre, etc.) et les participants ont un temps limité, défini à l’avance pour mettre au point leur système et participer à la campagne elle-même. L’évaluation porte généralement sur des données qui ne sont pas disponibles avant la campagne, et le temps de participation est en général suffisamment limité pour qu’une intervention manuelle soit impossible (et les formats très stricts imposés obligent de toute façon à utiliser une approche automatique, ce qui évite toute tricherie). Dans les campagnes les plus strictes, les systèmes d’analyse doivent même être fournis, ce qui veut dire que les résultats sont alors à 100 % reproductibles.

118Les dernières années ont vu une augmentation du nombre de campagnes d’évaluation. On a déjà évoqué ce point dans la partie consacrée à l’histoire et à l’évolution du domaine de la traduction automatique. Les premières campagnes ont concerné la recherche et l’extraction d’information, qui étaient les applications phares des années 1980. Dès la fin des années 1980, les autorités américaines lancent les premières campagnes destinées à la fois à unifier la tâche et à comparer les performances relatives des systèmes.

119La nécessité d’unifier les tâches a existé dans tous les domaines, mais cela était particulièrement vrai en extraction d’information. La tâche s’appelait en fait au début « compréhension de message », ce qui n’est guère précis. De fait, dans les années 1970 et 1980, de nombreuses équipes travaillaient sur le thème de la compréhension de texte, mais chacune produisait des résultats très différents sur des corpus particuliers. Il est donc apparu nécessaire de normaliser la tâche pour pouvoir comparer les approches, ce qui a amené à définir plusieurs étapes (analyse des entités, de la coréférence, des relations entre entités, des évènements, etc.), ce qui a entraîné par la même occasion la mise au point de modules comparables, adaptables et réutilisables comme on l’a déjà vu. Le point plus négatif concerne certainement l’uniformisation des recherches du fait de ces campagnes (les résultats doivent avoir un format prédéfini, et la compétition amène chacun à utiliser les meilleures techniques connues du moment, au détriment d’approches plus expérimentales, peut-être moins performantes sur le coup mais plus prometteuses à long terme), ce qui va en partie à l’encontre de la créativité des chercheurs.

6. Quelques exemples de liens forts entre recherche en TAL et recherche en linguistique

6.1. Traitement automatique des langues et lexicologie

  • 51 Lehmann et Martin-Berthet (2003) ; Polguère (2016).

120La lexicologie vise à décrire le sens des mots et leur usage51. Le travail du lexicologue est donc fondé sur sa connaissance de la langue, mais aussi et surtout sur un travail d’observation des unités linguistiques en contexte, l’introspection étant souvent insuffisante. Il faut en effet s’assurer de l’usage commun, des diverses acceptions des mots, de leurs sens dans des domaines spécialisés que les lexicologues ne peuvent maîtriser systématiquement, etc. Les lexicologues ont beau s’entourer de toutes les précautions nécessaires, leur travail d’observation est obligatoirement limité par leur capacité à observer de grandes masses de données.

121La disponibilité de très gros corpus et d’outils d’analyse automatique mis au point par le TAL a en partie changé la donne. Il existe aujourd’hui plusieurs outils qui permettent de faire des observations sur l’usage des mots, de calculer des fréquences d’occurrences, de fournir la liste des principaux dépendants, etc. Ces outils ne remplacent pas l’expertise du lexicologue, mais ils peuvent l’aider à prendre les bonnes décisions, c’est-à-dire à décider combien de sens attribuer à tel ou tel mot, à choisir l’exemple le plus typique, à observer l’évolution du sens ou de l’usage des mots, la langue étant en constante évolution.

122Un des outils les plus emblématiques et les plus populaires est le SketchEngine52, illustré par la figure 7. Il s’agit d’un outil très largement utilisé par les éditeurs de dictionnaires, les terminologues et plus généralement par le monde de l’enseignement et de la recherche.

Figure 7. Interface du système appelé SketchEngine.

Figure 7. Interface du système appelé SketchEngine.

Source de l’illustration : https://www.researchgate.net/​figure/​Sketch-Difference-for-the-comparative-study-of-the-terms-therapy-and-chemotherapy_fig3_325145911 (visité le 21 janvier 2019).

Ce système permet diverses manipulations sur corpus : ici, l’utilisateur essaie de différencier therapy de chemotherapy en examinant les contextes les plus caractéristiques des deux mots considérés, c’est-à-dire les mots apparaissant uniquement dans l’entourage de therapy, et ceux qui apparaissent uniquement dans l’entourage de chemotherapy (mots apparaissant sur fond grisé clair ou foncé sur l’image).

123Une fonctionnalité extrêmement précieuse permet d’identifier automatiquement les contextes les plus caractéristiques de deux mots proches sémantiquement. En identifiant les éléments différenciateurs, l’outil aide le lexicologue à discerner les spécificités des mots les uns par rapport aux autres.

6.2. Traitement automatique des langues et « langues de terrain »

124Par « linguistique de terrain », on désigne le travail de chercheurs étudiant des langues peu connues et peu documentées, pour lesquelles il est nécessaire d’aller « faire du terrain », c’est-à-dire d’aller sur place à la rencontre des locuteurs pour recueillir des données originales. C’est une branche de la linguistique extrêmement importante, à une époque où nombre de langues disparaissent sans laisser de trace. Ce travail de recueil de données est donc essentiel.

125Or, on sait que le recueil et surtout l’analyse des données constituent un travail très long et très fastidieux. Une heure d’enregistrement nécessite souvent des heures, voire des mois de travail si on veut y ajouter une transcription phonétique et une analyse syntaxique et / ou sémantique. Ce travail est fait, encore aujourd’hui, presque entièrement à la main au sein de logiciels comme ELAN (https://tla.mpi.nl/​tools/​tla-tools/​elan/​), ce qui a plusieurs conséquences : les données mises à disposition sont souvent de très petite taille, ce qui est évidemment un problème pour nombre d’études qui auraient besoin de plus de données pour parvenir à des résultats fiables. Parallèlement, beaucoup de données brutes restent « dans des armoires » faute de temps et de moyens pour les analyser et les mettre à disposition dans des formats « propres ».

  • 53 Besacier et al. (2014) et Michaud et al. (2018).
  • 54 Nivre et al. (2016).

126La collaboration avec le domaine du TAL est balbutiante, mais a déjà donné des résultats prometteurs. La première étape consiste à développer des outils d’analyse et d’enregistrement adaptés, sur des dispositifs (typiquement, des téléphones portables) demandant peu d’énergie, ce qui permet aux linguistes de travailler plusieurs jours sans avoir à trouver de prise de courant. De manière plus fondamentale, on dispose aujourd’hui d’outils d’analyse du signal pour segmenter automatiquement un flux de parole, reconnaître les sons, identifier des intonations, etc.53 Une fois le texte transcrit, on dispose d’outils d’analyse morphosyntaxique qui peuvent facilement être adaptés à de nouvelles langues, même avec des jeux de données limités pour l’apprentissage. Il existe donc plusieurs initiatives visant à faire se rencontrer et « se parler » les experts des deux domaines, et on peut ainsi espérer des résultats communs. Tel est déjà le cas par exemple pour l’analyse syntaxique : des corpus arborés ont été mis au point suivant le standard Universal dependencies (voir supra) et sont mis à disposition de la communauté scientifique grâce à des collaborations entre linguistes et informaticiens54.

6.3. Traitement automatique des langues et acquisition du langage

127Le domaine de l’acquisition du langage est en fait assez proche de la linguistique de terrain. Dans un cas comme dans l’autre, les chercheurs procèdent par des enregistrements (audio ou vidéo) qu’il faut ensuite analyser. Cette analyse se fait généralement sous forme d’annotations apportées au texte transcrit : étiquettes morphosyntaxiques sur les mots, liens syntaxiques entre mots, étiquettes sémantiques. Dès les années 1980-1990, les chercheurs ont fait le constat que l’analyse manuelle était très coûteuse, en temps et en moyens. L’outil informatique pouvait fournir des éléments de solution.

128La première étape a alors consisté à constituer une base partagée où tous les corpus seraient mis gratuitement à disposition de la communauté. Il s’agit du projet Childes (Child Language Data Exchange System55) conçu dès 1984, et qui a depuis connu un immense succès. Le site contient plus de 130 corpus dans plus de 25 langues (avec, évidemment, des volumes de données et une qualité d’analyse très variables suivant les langues et les corpus considérés). Il s’agit aujourd’hui d’un site incontournable pour quiconque souhaite travailler sur l’acquisition des langues, que ce soit pour mettre au point des données pour une nouvelle langue et les diffuser, ou pour entamer une étude à partir de données existantes. L’avantage du partage est en outre de permettre à de nouveaux chercheurs d’enrichir les données existantes (en ajoutant par exemple une nouvelle couche d’annotations). Le projet Childes s’est accompagné dès le début de la mise au point de standards d’annotation, ce qui garantit la « réutilisabilité » des données et leur enrichissement progressif par différentes équipes.

  • 56 MacWhinney (2019).

129L’étape suivante a consisté à définir des outils d’analyse et d’annotation automatique (CLAN : Child Language Analysis56). Les outils d’analyse permettent, d’un côté, de faire des requêtes complexes sur les corpus existants et, de l’autre, d’obtenir des indicateurs classiques en acquisition du langage (diversité lexicale, longueur moyenne des énoncés des enfants, etc.). La partie TAL proprement dite concerne l’intégration d’outils d’annotation automatique qui peuvent aider à accomplir certaines tâches, comme l’étiquetage morphosyntaxique. On peut dire que le domaine de l’acquisition automatique des langues est un cas exemplaire de partage des données, de travail collaboratif et de mise au point d’outils exploitant au mieux la puissance des outils informatiques et plus particulièrement du traitement automatique des langues.

6.4. Traitement automatique des langues et recherches en typologie linguistique (et linguistique historique)

130Un domaine très différent de la linguistique est celui de la modélisation de la variation et de l’évolution des langues. Ces dénominations recouvrent en fait différentes faces d’un même problème : d’un côté, on essaie de déterminer comment les langues ont évolué à partir de leurs caractéristiques connues ; de l’autre on essaie de caractériser les grandes familles linguistiques en synchronie, sur la base de traits partagés. Ces recherches sont populaires parce que l’étude des liens entre langues peut avoir un fort impact sur un public large et non spécialisé. Elles sont aussi parfois contestées car les études sont souvent fondées sur des données assez pauvres (des listes de mots appartenant au vocabulaire dit « de base », souvent des listes de Swadesh57) ou sur des bases de données très larges et très précieuses, mais contenant aussi nombre d’informations discutables et/ou non vérifiées (comme le WALS, World Atlas of Language Structures58).

  • 59 François (2017).

131Il n’empêche : on ne peut que constater un essor très important des recherches à partir de ces bases de données, afin d’essayer d’obtenir une modélisation plus systématique des rapprochements entre langues que celles proposées jusqu’ici par les spécialistes du domaine. Au-delà de la confirmation de rapprochements connus, ce type d’approche permet une modélisation beaucoup plus fine des liens entre langues ou dialectes sur la base d’isoglosses, ou de groupes d’isoglosses, permettant de mettre au jour des liens peu connus ou peu observés jusque-là59. La mise au jour de nouveaux phénomènes est évidemment entièrement dépendante des bases de données utilisées, ce qui fait dire à certains linguistes que ces outils n’apportent finalement pas grand-chose dans la mesure où l’information est contenue dans les bases de données et non dans les modélisations proposées (figure 8).

Figure 8. Reconstitution et modélisation de liens entre langues à partir de l’analyse de bases de données de linguistique historique. À gauche, reconstitution sous forme d’arbre des liens de parenté entre langues indo-européennes, à droite, reconstitution sous forme de réseau des liens entre langues finno-ougriennes.

Figure 8. Reconstitution et modélisation de liens entre langues à partir de l’analyse de bases de données de linguistique historique. À gauche, reconstitution sous forme d’arbre des liens de parenté entre langues indo-européennes, à droite, reconstitution sous forme de réseau des liens entre langues finno-ougriennes.

Gray et al. (2011). Source de l’illustration : https://royalsocietypublishing.org/​doi/​full/​10.1098/​rstb.2010.0378 (visité le 21 janvier 2019).

Lehtinen et al. (2014). Source de l’illustration : https://journals.openedition.org/​efo/​7099 (visité le 21 janvier 2019).

Pour toutes ces raisons, la reconstitution de la généalogie des langues par ordinateur est un domaine polémique. Les techniques utilisées sont de type « clustering », la branche de l’informatique modélisant la façon de regrouper des objets suivant des caractéristiques communes (il s’agit ici de regrouper des langues suivant des propriétés linguistiques). Le clustering est fortement employé dans les biotechnologies, ce qui amène les chercheurs à faire des analogies (où les langues sont vues comme des organismes vivants) plus ou moins fondées. En conclusion, on peut dire que ces études sont effectivement intéressantes quand elles sont fondées sur des bases de données larges, fiables, ayant fait l’objet de vérifications par des spécialistes du domaine.

7. Les grands domaines d’application du traitement automatique des langues aujourd’hui

  • 60 Poibeau (2003, 2011).

132Le traitement automatique des langues n’est pas un domaine monolithique : de nombreuses applications ont vu le jour au fur et à mesure que la technologie s’améliorait60. Certaines applications sont connues du grand public (comme la traduction automatique, la correction orthographique ou aujourd’hui, avec le développement des téléphones mobiles, la reconnaissance vocale), et d’autres moins (l’apprentissage en ligne, les agents conversationnels). Il semble donc utile d’en dresser un rapide panorama, en donnant à chaque fois quelques éléments de l’état de l’art, pour pouvoir apprécier la complexité de la tâche et la diffusion du type d’application considéré. Nous examinerons successivement les applications suivantes : moteurs de recherche, fouille d’opinion, classification de documents, traduction automatique, correction orthographique et grammaticale, résumé automatique, apprentissage en ligne, reconnaissance vocale et dialogue humain-machine, agents conversationnels.

133Il existe à chaque fois autant de façons d’utiliser la technologie qu’il y a d’utilisateurs, mais on peut tout de même regrouper certaines applications en grands ensembles. Les moteurs de recherche sont le point d’entrée face à la masse de documents disponibles sur le Web ou dans des fonds d’archives particuliers. Il s’agit d’identifier des documents pertinents à partir d’une requête composée de mots clés. À partir de là, plusieurs applications sont liées : classification de documents, fouille d’opinion, éventuellement traduction pour traiter les documents en langue étrangère. La correction orthographique et grammaticale a un statut à part : il s’agit avant tout d’un outil à usage personnel qui doit aider à corriger des textes en cours de rédaction. Le résumé peut être employé dans tous ces contextes : soit pour synthétiser des informations disponibles sur le Web, soit pour produire un résumé de ses propres textes.

134Les applications vocales représentent l’autre grand domaine d’innovation. L’utilisation de la voix a longtemps été une perspective lointaine : pendant des décennies, les experts ont prédit le développement des interfaces vocales sans que celles-ci se développent réellement (les ordinateurs étaient employés en entreprise, et il était incongru d’envisager une interface vocale dans ce contexte, surtout en open space). La donne a réellement changé avec le développement de téléphones portables, utilisables dans des endroits publics, où l’utilisateur peut parler librement. Une fois franchi l’obstacle psychologique qui consiste à parler à son téléphone dans des endroits publics, les interfaces vocales ont pu se développer largement, sur téléphone portable puis sur ordinateur.

135Il existe de nombreuses autres applications, comme les systèmes d‘apprentissage de langue en ligne, qui sont plus spécifiques mais importantes pour le domaine du traitement automatique des langues. Nous allons examiner rapidement chacune de ces applications.

7.1. Les moteurs de recherche

  • 61 Sire (2016).

136Le principe du moteur de recherche est à la fois simple et bien connu. Il s’agit de retrouver, à partir d’un fonds documentaire, les documents pertinents pour une requête donnée. En général ces documents sont hiérarchisés, c’est-à-dire que les documents les plus pertinents doivent figurer en tête de liste (le fonds documentaire le plus connu est aujourd’hui le Web, mais il existe de nombreux autres fonds documentaires, spécifiques, de Gallica à la Bibliothèque nationale de France jusqu’aux fonds d’archives d’entreprises ou d’associations particulières – nous employons ici le mot « fonds documentaire » dans un sens très lâche, désignant n’importe quel ensemble important de documents contenant des informations à retrouver)61.

137On a là l’exemple même d’une application en apparence simple, mais en fait extrêmement complexe. Tout d’abord la notion de pertinence est éminemment subjective : ce qui est pertinent pour une personne le sera beaucoup moins pour une autre, et la présence de mots clés est un indicateur relativement faible pour juger de la pertinence d’un document, surtout quand le fonds documentaire comprend des milliards de documents, comme le Web. Les requêtes des utilisateurs sont aussi souvent très courtes : il est connu que les requêtes sur le Web, dans un moteur de recherche grand public (Google, Yandex ou Baidu par exemple), dépassent rarement deux à trois mots, ce qui rend d’autant plus difficile la recherche de documents pertinents. Il faut ensuite gérer non seulement la variation des mots (singulier / pluriel, formes conjuguées, etc.) mais aussi, éventuellement, leur sémantique (synonymes, etc.). En pratique, il existe très peu de moteurs généralistes qui proposent une recherche sémantique (suggestion de synonymes, de mots liés, etc.), vu la difficulté de la tâche, mais on peut trouver ce type d’offres à destination de professionnels, dans le domaine du droit ou de la médecine notamment, où il est important de pouvoir spécialiser les lexiques utilisés pour la recherche.

  • 62 Langville et Meyer (2012).

138Les algorithmes utilisés pour répondre au problème de la recherche sur Internet étaient d’abord assez simples : étaient jugés pertinents les documents qui contenaient le plus de mots de la requête (avec différents facteurs de normalisation, comme la taille du document par exemple). Mais, on l’a dit, les requêtes sont courtes et les documents nombreux sur Internet : les simples critères de fréquence et de cooccurrence de mots clés ne sont donc pas suffisants. L’idée, à la fois simple et révolutionnaire, apportée par les concepteurs de Google en 1998, a consisté à utiliser la structure du « graphe » du Web en plus de la présence de mots clés62. Le propre du Web est en effet de contenir des « liens » qui permettent de renvoyer d’une notion ou d’une page à une autre pour former ce que l’on appelle un « hypertexte » (un hypertexte est un graphe dans la mesure où il est composé d’un ensemble de liens que l’on peut formaliser comme des « arcs » dans un graphe). Ces liens ne sont pas neutres : une page qui a beaucoup de liens qui « pointent » vers elle a des chances d’être une page de référence, c’est-à-dire une page très pertinente. À l’inverse, une page isolée vers laquelle aucune autre page ne pointe n’a sans doute pas grand intérêt. C’est la base de l’algorithme PageRank, qui s’est considérablement complexifié depuis mais qui exploite à l’origine une idée simple, à savoir mêler la présence de mots clés à l’analyse de la structure du « graphe du Web » (c’est-à-dire la structure dessinée par l’ensemble des liens hypertexte sur Internet). La prise en considération de ces deux éléments (mots clés et liens) a permis à Google d’obtenir immédiatement un résultat infiniment plus pertinent que le moteur Altavista, qui était hégémonique avant 1998. Altavista disparaîtra alors très rapidement au profit du nouveau venu, Google, qui garde depuis une position ultra-dominante (sauf dans certains pays contrôlant étroitement à la fois Internet et les outils d’accès au Web comme la Chine avec Baidu ou la Russie avec Yandex).

139Il faut enfin noter l’évolution des moteurs de recherche. Ceux-ci ne se contentent plus de fournir simplement des liens vers des pages pertinentes. Sans qu’on en ait toujours conscience, leurs fonctionnalités ont bien évolué. Une anecdote illustrera ce point : pendant la session Clelia 2018, nous étions plusieurs à chercher le nom de l’aligot, sans arriver à retrouver ce mot, bien enfoui dans notre mémoire. Une recherche sur Google avec comme mots clés « purée », « fromage », « Cantal » permet visiblement à Google d’inférer que notre recherche concerne l’aligot.

Figure 9. Résultat d’une recherche avec le moteur de recherche de Google pour la requête « fromage purée Cantal ».

Figure 9. Résultat d’une recherche avec le moteur de recherche de Google pour la requête « fromage purée Cantal ».

Source de l’illustration : https://www.google.fr (visité le 22 août 2018).

Au-delà d’une liste de liens vers des documents censés répondre à la requête, on voit (figure 9) que Google propose d’autres services « intelligents ». Ici, la requête (« fromage purée cantal ») visait en fait à identifier le mot « aligot ». Non seulement Google a inféré que l’utilisateur cherchait à se renseigner sur l’aligot, mais le moteur de recherche donne aussi comme résultat la recette de l’aligot, et différentes questions pertinentes dans ce contexte.

140On voit là la puissance du moteur de recherche qui, loin de se contenter de fournir des liens vers des documents contenant des mots clés, peut en fait répondre à des questions implicites, retrouver les documents pertinents et fournir des réponses structurées (sans que cela soit explicite, mais juste à travers la présentation et la hiérarchisation des informations fournies à l’utilisateur). En conclusion, on peut dire que les moteurs de recherche, qui n’utilisaient pas de techniques de TAL à l’origine (ils procédaient « juste » par comptage de simples chaînes de caractères), sont devenus des outils extrêmement puissants et intégrant des techniques de calcul complexes leur permettant de répondre de manière précise à des requêtes variées, sous-spécifiées, dans une multitude de langues.

7.2. La fouille d’opinion

  • 63 El-Bèze et al. (2010) et Liu (2012).

141Les outils de fouille d’opinion sont sans doute moins connus du grand public que les moteurs de recherche et ils sont surtout moins accessibles. La fouille d’opinion est la tâche qui vise à capturer, analyser et synthétiser les opinions exprimées en ligne sur un sujet donné63. Nous connaissons tous des sites répertoriant des opinions sur des livres ou des films par exemple mais, au-delà, les industriels (quel que soit le secteur d’activité) sont tous à la recherche de synthèses des opinions et avis émis sur leurs produits. Or, ces avis peuvent être exprimés dans des endroits fort variés (presse, forums en ligne, blogs, etc.). Les outils de veille visent en premier lieu à rassembler automatiquement toutes les apparitions d’un nom de marque ou de produit dans les textes accessibles en ligne (il s’agit donc, en gros, de moteurs de recherche spécialisés), puis les outils de fouille d’opinion permettent de compléter l’analyse en produisant une analyse des opinions exprimées dans ces textes.

142Il s’agit d’un marché important sur le plan économique et de nombreuses sociétés ont investi ce champ de recherche. Il est dès lors difficile de s’y retrouver, entre les entreprises qui se contentent d’identifier quelques adjectifs ou adverbes marqueurs de tendance dans les textes (en gros repérer « bon » ou « bien » vs « mauvais » ou « nul ») et celles qui procèdent à une analyse minutieuse du contenu textuel. Effectivement, sur le plan linguistique, l’analyse d’opinions peut être fort complexe. Pour une analyse minutieuse, il faut non seulement identifier la nature de l’opinion (positive / négative / neutre, ou plus précisément que cela encore) mais aussi identifier la personne qui a émis l’opinion (la source de l’opinion), et ce sur quoi elle porte (la cible). Dans l’idéal, l’analyse devrait prendre en compte des éléments discursifs. Par exemple, dans « J’ai bien aimé le film, mais les acteurs ne sont vraiment pas bons », il y a une espèce de paradoxe entre l’évaluation positive du film et l’évaluation négative des acteurs. Il faut sans doute inférer que dans ce cas, c’est l’histoire ou la mise en scène qui était digne d’intérêt ; en tout cas, avoir une analyse fine du contenu exprimé exige des outils de traitement automatique des langues avancés. C’est justement ce qui est demandé en majorité par les utilisateurs de ces types de systèmes : les industriels cherchent en priorité à savoir quels aspects de leurs produits améliorer, et sont donc souvent intéressés par une analyse fine et précise du texte.

7.3. La classification de documents

143La classification de documents est très complémentaire des moteurs de recherche. Une fois qu’un moteur de recherche classique a identifié des pages Web pertinentes par rapport à une requête, il peut chercher à les classer en fonction de leur contenu informationnel, afin de privilégier par exemple des pages montrant différentes facettes d’un même évènement (autrement dit, si deux pages expriment un contenu jugé similaire, une seule sera montrée à l’utilisateur par défaut, la deuxième n’ayant pas d’intérêt vu qu’elle n’apporte pas d’information en plus).

144Les premiers outils d’accès à Internet (avant que Google ne révolutionne le domaine en proposant une simple fenêtre de recherche très dépouillée) étaient des « portails » ou des annuaires, proposant une classification hiérarchique des documents accessibles en ligne. L’utilisateur, au lieu de taper une requête, pouvait parcourir l’information disponible en ligne, en naviguant au sein de l’annuaire mis à sa disposition. C’est ce qui a fait la fortune de Yahoo dans les années 1990, avant son déclin depuis le milieu des années 2000.

145Ce type de présentation est en apparence moins populaire aujourd’hui pour la recherche sur Internet, alors que tout un chacun accède au Web à travers un moteur de recherche classique. Les portails d’actualité restent malgré tout des outils très utilisés et fondés sur la classification de documents. Google Actualité par exemple « aspire » en permanence les textes d’actualité publiés en ligne par les médias (journaux, agences de presse, sites d’information en ligne), puis les classe par sujet et par importance. Si un sujet est important, le moteur identifie un texte principal (disponible à travers un lien et une ou deux phrases de résumé) et propose d’autres choix ensuite, censés refléter différents aspects de la question traitée. Si un sujet est plus secondaire, seul un lien vers un article ou une dépêche sera retenu. Des liens cliquables permettent en outre au lecteur d’explorer plus avant une question qui l’intéresse : Google Actualité présente un choix parmi tous les documents à sa disposition, mais donne aussi les moyens à l’utilisateur d’explorer plus en détail une question. On sait cependant que peu d’utilisateurs utilisent cette possibilité : la grande majorité des lecteurs s’en tiennent à la page de Google Actualité par défaut, d’où l’importance stratégique pour les journaux d’apparaître bien référencés et d’être directement visibles.

Figure 10. Interface de Google Actualité (Google News en anglais).

Figure 10. Interface de Google Actualité (Google News en anglais).

Source de l’illustration : https://news.google.com (visité le 22 août 2018).

On voit (figure 10) que le moteur de Google ne se contente pas de collecter les informations sur les sites d’informations en ligne : il en fait une analyse automatique, permettant de classer les informations, de les hiérarchiser et surtout de lier entre eux les articles portant sur un même sujet pour en mettre un en avant (normalement le plus pertinent, choisi en fonction de critères qui ne sont pas connus publiquement ; il est probable que le contenu et la source – c’est-à-dire le journal où la nouvelle a été publiée – sont évalués conjointement).

7.4. La traduction automatique

  • 64 Poibeau (2017).

146Comme on l’a vu au début de cet article, la traduction est une application phare pour le traitement automatique des langues, pour plusieurs raisons : la tâche est bien identifiée et facilement compréhensible par le grand public ; elle est extrêmement complexe et recouvre en fait l’ensemble des problématiques du domaine du traitement automatique des langues ; enfin, elle répond à des besoins pratiques avérés64.

147Les questions scientifiques soulevées par la traduction automatique ont été étudiées dans la première partie de cet article, il n’y a donc pas lieu d’y revenir. Tous les systèmes populaires et performants actuellement en ligne utilisent principalement l’approche neuronale (dite aussi « apprentissage profond » ou « deep learning ») qui est, de loin, l’approche la plus performante aujourd’hui. Comparée à l’approche statistique classique, l’approche neuronale permet de traduire en prenant la phrase comme unité de base, ce qui évite d’avoir à assembler de manière un peu hasardeuse des fragments de textes qui ne sont pas toujours compatibles entre eux (approche statistique classique). Les performances sont correctes pour certaines langues (notamment les langues indo-européennes entre elles, mais aussi, et de plus en plus, le chinois qui bénéficie d’une très grande attention, depuis plusieurs années, pour des raisons culturelles et économiques). La technologie a fortement progressé en quelques années et est maintenant mature pour une utilisation grand public, voire semi-professionnelle dans certains contextes.

148Une source de progrès importante pour les années à venir consistera probablement à faire traduire un système automatique depuis une langue source vers une langue cible, puis à retraduire en sens inverse vers la langue source (à partir de la traduction obtenue automatiquement). On peut ensuite analyser les erreurs ou, au moins, les écarts entre le texte d’origine et le texte produit à l’issue des deux étapes de traduction. La nature de ce qu’un système peut inférer ainsi n’est pas claire, mais ce type de techniques a fait ses preuves dans d’autres domaines (par exemple, pour le jeu de go, des améliorations très importantes ont été obtenues en faisant jouer des machines entre elles pour élaborer de manière complètement autonome des stratégies nouvelles gagnantes, même contre les meilleurs joueurs internationaux). La traduction automatique est évidemment très différente du jeu de go, mais l’idée est bien de faire évoluer progressivement le système vers de bonnes traductions, de manière complètement autonome, grâce à des milliers voire des millions d’essais. L’idée même de cette approche, les résultats possibles et les conséquences en termes de créativité et d’analyse du langage devraient normalement susciter de nombreux débats dans les années à venir.

7.5. La correction orthographique et grammaticale

149La correction orthographique et grammaticale est une autre application très populaire du domaine du traitement automatique des langues, du fait de l’intégration d’outils relativement performants dans tous les logiciels de traitement de textes grand public (Microsoft Word, Open Office, etc.). Le principe en est fort simple : il s’agit de repérer les « fautes » d’orthographe et de grammaire, en général dans un texte tapé en direct par un utilisateur.

150Les premiers systèmes se contentaient de repérer les mots des textes à analyser qui ne figuraient pas dans un lexique de la langue visée. Les outils sont depuis longtemps devenus infiniment plus perfectionnés, et sont maintenant capables de reconnaître avec un bon taux de succès de très nombreuses erreurs, aussi bien les fautes d’étourderie en cours de frappe que des erreurs plus complexes comme des problèmes d’accord du participe passé (figure 11). Évidemment, ces outils ne sont pas infaillibles : ils commettent encore de nombreuses erreurs et ne parviennent pas à identifier certaines erreurs complexes (et parfois d’autres, plus simples).

Figure 11. Un correcteur orthographique et grammatical (ici, le système Antidote).

Figure 11. Un correcteur orthographique et grammatical (ici, le système Antidote).

Source de l’illustration : https://applications.developpez.com/​actu/​85501/​ (visité le 22 janvier 2019).

La mise au point de ce type d’outils est, comme on peut l’imaginer, très complexe. Il faut formaliser l’ensemble de la grammaire, l’ensemble des contraintes sur les mots, repérer les erreurs sans trop « sur-générer » (c’est-à-dire sans repérer des erreurs là où il n’y en a pas). La tâche est déjà complexe quand il s’agit de mots inconnus (ou du moins, ceux qui ne sont pas inclus dans le dictionnaire de l’application) mais elle devient très difficile au niveau syntaxique du fait des nombreuses ambiguïtés dans la langue. Les concepteurs de tels logiciels (par exemple Synapse en France) utilisent de très grandes bases de fautes et d’erreurs. Pour chaque nouvelle version de leur logiciel, ils doivent s’assurer que davantage de fautes sont repérées, mais que le logiciel ne repère pas à tort de nouvelles fautes ou, plus important encore, n’oublie pas des fautes qui étaient repérées avant. Vu le nombre de cas à considérer (et le nombre de règles locales, potentiellement contradictoires entre elles), la tâche est très délicate.

7.6. Les applications d’apprentissage en ligne

151Par « apprentissage en ligne », on désigne tous les sites et les applications en ligne ayant pour but de transmettre de nouvelles connaissances. Certaines de ces plateformes n’intègrent pas du tout de techniques de traitement automatique des langues, mais d’autres ont placé le TAL au cœur de leurs préoccupations.

  • 65 Díaz-Negrillo et al. (2013).

152On pourra citer deux exemples. Les entreprises qui proposent des tests de langue (en ligne ou non) et qui essaient toutes de développer des applications capables de « noter » automatiquement la production d’étudiants soumettant des textes écrits65. La correction de ces textes est une tâche relativement longue : les formations sont donc relativement coûteuses et mobilisent de très nombreux correcteurs. Les tests corrigés automatiquement en ligne seraient sans doute moins fiables, mais permettraient aux étudiants de soumettre plus de textes pour un coût moindre et d’améliorer ainsi la qualité de leur rédaction (ce qui n’empêcherait bien sûr pas de passer par un correcteur humain aussi de temps en temps, en complément). Ce type d’application entretient donc des liens évidents avec la correction orthographique et grammaticale, à ceci près que les erreurs produites peuvent être très différentes de celles de locuteurs natifs. Une adaptation des systèmes à la tâche visée, et notamment la reconnaissance des fautes les plus courantes en fonction de la langue source, sont des facteurs clés pour la réussite de ce genre d’applications. Il s’agit à l’heure actuelle d’un domaine de recherche très actif, à la frontière du TAL, de la linguistique et de l’enseignement des langues.

153L’autre exemple concerne la mise en ligne de ressources pour l’apprentissage. Par exemple, l’université de Tromsø a développé de nombreux outils pour des langues peu répandues, notamment les langues finno-ougriennes comme le same (figure 12). On trouve ainsi en ligne une multitude d’outils, gratuits, qui permettent à l’utilisateur d’apprendre la langue de façon interactive et ludique.

154Le same a en particulier une morphologie extrêmement complexe, ce qui rend parfois la recherche d’un mot dans le dictionnaire très problématique pour le débutant. Une application en ligne permet de résoudre ce problème : l’utilisateur soumet une forme complexe, et la machine donne alors l’analyse (ou les analyses si la forme est ambiguë), ce qui est extrêmement utile. De telles applications existent pour de nombreuses langues, de manière plus ou moins développée et plus ou moins fiable, mais il s’agit d’un enjeu majeur pour les langues rares et les langues en danger notamment.

Figure 12. Porte d’accès à la plateforme de ressources pour l’apprentissage du same en ligne.

Figure 12. Porte d’accès à la plateforme de ressources pour l’apprentissage du same en ligne.

Source de l’illustration : http://kursa.oahpa.no (visité le 22 août 2018).

7.7. Reconnaissance et synthèse vocale

  • 66 Haton (2016).

155La reconnaissance vocale est un domaine qui a évolué très rapidement ces dernières années66. Rappelons qu’il s’agit, à partir d’un flux audio (c’est-à-dire, en général, d’un flux de paroles), de produire une transcription écrite aussi précise que possible. Les techniques de transcription sont purement numériques et n’intègrent quasiment pas de connaissances linguistiques, on n’en dira donc pas plus ici. On peut juste rappeler qu’il y a encore une vingtaine d’années, les systèmes étaient « monolocuteurs » et nécessitaient une phase d’entraînement (c’est-à-dire que chaque utilisateur devait en pratique prononcer 100 ou 200 phrases de manière très distincte pour que le système s’adapte à sa voix – en fait, adapte ses paramètres à la voix à reconnaître – pour ensuite pouvoir transcrire avec une qualité acceptable). Aujourd’hui tout un chacun peut commander à la voix son téléphone portable sans phase d’entraînement et le système reconnaît généralement relativement correctement les commandes formulées par les utilisateurs.

156La transcription pure (obtention d’un texte à partir d’un signal audio) est très employée, depuis longtemps, dans certains domaines comme le droit ou la médecine (les avocats ou les médecins enregistrent leurs commentaires qui sont transcrits automatiquement dans un fichier informatique). La transcription est aussi utilisée pour sous-titrer automatiquement et en direct certains évènements (notamment pour les chaînes d’information en continu, diffusées dans les gares et les aéroports, sans le son). En dehors de ces cadres d’application particuliers, la transcription écrite n’est pas visible et tout se fait de façon vocale et transparente pour l’utilisateur. C’est notamment le cas des systèmes de commande sur téléphone portable : recourir à la commande vocale évite d’avoir à taper sur le clavier, ce qui, dans certains cas, peut être très pratique. Il n’y a alors pas de transcription « visible », mais la commande est bien transcrite en texte pour pouvoir ensuite être traitée par le système.

157L’application complémentaire en quelque sorte est la synthèse vocale. La synthèse vise à transmettre oralement un message généralement stocké sous forme écrite (ou alors produit à la volée à partir d’une base de données). La transcription fonctionne de mieux en mieux et est très utile dans de nombreux contextes, notamment pour les aveugles qui souhaitent se passer du braille.

7.8. Commande vocale, dialogue humain – machine et agents conversationnels

  • 67 Landragin (2013).

158Les applications intégrant des agents conversationnels constituent un des domaines phares du traitement automatique des langues aujourd’hui, en particulier dans le domaine de l’aide et du « support utilisateur » (c’est-à-dire les applications d’aide aux utilisateurs de systèmes informatiques ou de service en général). Avoir un agent conversationnel, c’est-à-dire souvent un personnage à l’écran figurant un opérateur répondant à des questions, aide visiblement les utilisateurs de ce type de service à s’identifier et à ne plus avoir l’impression de parler simplement à une machine67. La personnification joue à plein et les études qualitatives montrent un vrai engouement pour ce type d’applications, les utilisateurs y voyant tantôt un côté ludique, tantôt un côté humain bien qu’il n’y ait là rien de véritablement humain (figure 13).

Figure 13. Un agent intelligent (répondant à des requêtes pour la marque Nespresso).

Figure 13. Un agent intelligent (répondant à des requêtes pour la marque Nespresso).

Source de l’illustration : https://www.nespresso.com/​fr/​fr/​service-customer-care (visité le 22 août 2018).

L’utilisateur peut taper ses questions dans une boîte de dialogue et la réponse est fournie par le petit personnage, ce qui permet de « personnifier » le dialogue avec la machine (et de faire disparaître la machine aux yeux de l’utilisateur).

159Sur le plan technologique, ce type d’application amène à gérer des aspects dialogiques souvent non triviaux. Si l’on veut que le système soit pertinent et évolué, il faut qu’il ait un minimum de contexte et de mise en mémoire, au moins pour résoudre certains pronoms simples. Si l’on prend le premier exemple (fictif) :

— Quelle est la capitale des États-Unis ?
— D’après Wikipédia, la capitale des États-Unis est Washington.
— Et celle de la France ?
— La capitale de la France est Paris.

Ce dialogue peut sembler relativement simple, mais le système doit inférer que le pronom « celle » dans la 3e prise de parole correspond au mot « capitale », qui figurait juste au-dessus. Il s’agit d’un cas relativement simple à gérer, mais cela n’est pas trivial quand on est hors domaine (c’est-à-dire quand le système doit faire face à des requêtes pouvant porter sur n’importe quel domaine, et n’est pas limité à une application simple, définie a priori, comme dans le cas d’un agent intelligent répondant à des requêtes sur des capsules de café). Les systèmes les plus avancés sont capables de gérer des cas de coréférence plus compliqués que celui donné en exemple.

160On prendra encore un autre exemple :

— Qu’est-ce que la c-commande d’après Chomsky ?
— Désolé, je ne sais pas répondre à cette question.

Ici, le système a été capable de détecter que la question était trop complexe. Ce type de situation est délicat à détecter en pratique car les systèmes fonctionnent essentiellement par mots clés : la question est transformée en requête, c’est-à-dire en un ensemble de mots clés et un moteur de recherche trouve quasiment toujours des documents contenant les mots clés recherchés. Partant de là, analyser les documents retournés par le moteur et identifier qu’aucun ne répond vraiment à la question est un problème extrêmement difficile. Les gadgets commandés à la voix se mettent souvent à « réciter » une notice Wikipédia quand la question n’a pas été comprise, en pariant sur le fait que la notice contiendra au moins une information pertinente.

161Cette situation est en fait un peu la situation courante. Un système informatique n’a pas de « conscience » : un système de dialogue ou un agent conversationnel (tout comme, d’une certaine façon, un moteur de recherche) ne font que mettre en avant des documents qui sont susceptibles de répondre à une question, selon des critères statistiques. Chaque géant de l’Internet a développé son propre système : Siri chez Apple, Alexa chez Amazon, Ok Google, etc.

8. Le traitement automatique des langues au service d’autres domaines : des Humanités numériques à l’analyse de grands corpus

162Le TAL n’est pas simplement un domaine tourné vers les applications « grand public ». Le monde de la recherche peut aussi en bénéficier, dès que de grandes masses de données textuelles sont manipulées.

8.1. Le TAL au service de la recherche en lettres et sciences sociales

163Ainsi, les chercheurs en lettres et surtout en sciences sociales sont passés brusquement d’une situation de pénurie de données ou, du moins, d’une situation où les données étaient souvent difficiles à assembler, à une situation où les données sont apparemment massives, disponibles et faciles d’accès. Les sciences sociales sont les premières concernées : si, par nature, les recherches en lettres portent sur des corpus particuliers, ayant fait l’objet d’une édition critique minutieuse, tel n’est pas toujours le cas des recherches en sciences sociales qui s’intéressent souvent à une réalité plus immédiate et à des témoignages directs. Internet est dans ce cadre une source d’information qui ne peut être ignorée. Or, malgré des bénéfices certains, cette masse de données soulève de nombreux problèmes : la plupart du temps, les données ne sont pas directement exploitables, elles doivent être triées, filtrées, organisées ; elles reflètent des points de vue particuliers qui ne sont pas obligatoirement ceux qui sont visés par le chercheur en lettres ou en sciences sociales ; enfin, elles peuvent être partielles ou biaisées.

164Effectivement, comme on l’a vu, un texte ne saurait être assimilé à une masse de connaissances directement exploitable par la machine. Il faut dans un premier temps prévoir des traitements complexes pour identifier l’information pertinente, la normaliser, la catégoriser et éventuellement la mettre en contexte. Alors seulement l’ordinateur ou l’expert sera capable d’en tirer parti pour mener à bien ses analyses. Mais comment procéder pour extraire l’information pertinente de la masse textuelle ? Quels outils utiliser ? Pour quelle pertinence ? Ces questions sont ouvertes et n’ont pas de réponse immédiate et évidente : on présentera ici un aperçu rapide des techniques et des possibilités actuelles, issues des techniques développées et décrites dans les sections précédentes.

  • 68 Poibeau (2014a).

165Plusieurs études ont pointé la frustration des chercheurs en lien avec ce problème : les textes sont effectivement là, présents et disponibles sur la Toile, mais leur exploitation reste difficile68. Elle exige la collaboration de spécialistes de différents horizons, capables de traiter les données, de fournir les outils pour extraire l’information pertinente et d’ajuster de manière collaborative les traitements. Idéalement, l’exploitation des données disponibles sur la Toile dans le domaine des sciences humaines et sociales nécessiterait la mise en place d’équipes pluridisciplinaires mais cela reste rare et difficile, du fait de la spécialisation de plus en plus grande des recherches ainsi que des intérêts divergents des différentes disciplines. Il est en effet difficile de définir un projet de recherche à la fois innovant dans le domaine du traitement de l’information et dans le domaine des sciences sociales. Il est alors nécessaire d’avoir recours à des unités de service, qui pourront par exemple fournir les « bons » traitements aux chercheurs en sciences sociales en utilisant une combinaison d’outils existants, sans qu’il y ait forcément une dimension fondamentalement nouvelle dans les traitements effectués.

8.2. Quelques exemples de réalisation

166Les applications du traitement automatique des langues sont nombreuses et il est impossible d’en donner un panorama complet. Nous présentons ici quelques exemples récents, qui donnent une idée de la variété des applications visées et surtout les types de représentation possibles. Vu la masse de données à traiter, il est en effet important de prévoir pour les utilisateurs, en plus des analyses automatiques, des formats de présentation qui soient lisibles, utiles et informatifs.

167Une application classique est par exemple le suivi d’un fil d’agences de presse. Les agences de presse produisent chaque jour des textes sur l’actualité, en plus ou moins grand nombre suivant l’évènement, son importance et son évolution. Des modules d’analyse traditionnels peuvent permettre d’extraire les entités nommées, de classer les dépêches d’après les entités qu’elles contiennent, d’extraire d’autres informations plus précises en fonction du sujet traité et d’obtenir des courbes permettant d’observer le volume d’informations traité au cours du temps sur un pays, un personnage ou un évènement. Des systèmes multilingues permettent en outre de suivre simultanément plusieurs fils d’agences de presse, et de comparer la couverture d’un même évènement dans plusieurs pays par exemple.

  • 69 Id. (2003).

168Les techniques utilisées sont le repérage d’entités nommées, l’analyse de la coréférence, et éventuellement une analyse syntaxico-sémantique peut être effectuée si des éléments précis de la dépêche doivent être extraits. Dans l’exemple donné en figure 1469, les auteurs de déclarations politiques ainsi que le contenu de leur déclaration est extrait automatiquement, ce qui implique le repérage et a minima une analyse syntaxique locale des prises de parole dans les différentes dépêches.

Figure 14. Un système d’analyse et de suivi en direct d’un fil d’agences de presse.

Figure 14. Un système d’analyse et de suivi en direct d’un fil d’agences de presse.

Source de l’illustration : Poibeau (2003).

Chaque dépêche est analysée (les entités nommées notamment), des informations sont extraites dynamiquement des dépêches (par exemple les déclarations politiques ou les scores pour les résultats sportifs) et un suivi temporel des thèmes abordés est également offert.

169Le traitement automatique des langues a fait son apparition dans le monde journalistique depuis plusieurs années maintenant. Au-delà de l’analyse du contenu classique, on remarquera des enjeux importants comme la détection de fausses nouvelles (fake news), mais il s’agit d’une tâche très complexe et sans doute inatteignable pour bien des années encore : par définition une fausse nouvelle est rédigée comme s’il s’agissait du compte rendu d’un vrai évènement. Il faudrait donc pouvoir vérifier l’information et la mettre en rapport avec d’autres sources, en direct, ce qui est très largement au-delà de l’état de l’art. C’est d’ailleurs toute la difficulté du repérage des fausses nouvelles, même quand ce sont des humains qui s’y penchent, d’autant qu’une fake news est rarement entièrement fausse, il y a souvent un arrière-plan réaliste ou factuel qui rend d’autant plus difficile le repérage de la partie fausse du récit ou de la dépêche.

  • 70 Omodei et al. (2014).

170La classification et la visualisation de grands corpus sont une autre application classique. Les techniques utilisées sont moins linguistiques que lors de l’analyse d’un fil d’agence de presse : il s’agit avant tout de repérer les termes techniques pertinents dans un domaine donné, de les regrouper en classes sémantiques éventuellement hiérarchisées les unes par rapport aux autres. On peut ainsi analyser par exemple la production d’un domaine scientifique. Sur quoi les chercheurs travaillent-ils ? Quels sont les liens entre chercheurs, entre institutions, entre pays ? Le graphe de la figure 15 offre ainsi une représentation du domaine de la linguistique informatique : chaque cercle identifie un sous-domaine scientifique tel qu’il a été repéré automatiquement70.

Figure 15. Modélisation d’un domaine scientifique : le traitement automatique des langues vu à un niveau macroscopique. Chaque cercle correspond à un sous-domaine particulier.

Figure 15. Modélisation d’un domaine scientifique : le traitement automatique des langues vu à un niveau macroscopique. Chaque cercle correspond à un sous-domaine particulier.

Source de l’illustration : Omodei et al. (2014).

Le travail d’interprétation et d’évaluation consiste à vérifier si les analyses automatiques (les groupements de chercheurs, les grands domaines de recherche) correspondent aux ensembles connus ou non. L’analyse peut soit confirmer des hypothèses anciennes, soit produire de nouvelles connaissances en révélant des liens inattendus, des collaborations ignorées jusqu’ici, etc. Ce type de technique est très utilisé dans l’industrie pour la veille technologique par exemple.

171Les outils de visualisation sont devenus des éléments essentiels pour l’analyse ces dernières années. Devant la masse de données à traiter, il est indispensable de disposer d’outils permettant à la fois d’en avoir une vue globale et de pouvoir « zoomer » pour observer plus en profondeur certaines parties particulièrement intéressantes d’une carte ou d’un graphe.

172Des représentations particulièrement intéressantes rendent compte d’un fait en fonction du temps (figure 16) : l’évolution d’une forme linguistique, des thèmes traités dans un corpus ou d’un évènement particulier. De très nombreux outils sont disponibles pour cela, qu’il faut bien sûr adapter en fonction du domaine et du corpus traités.

Figure 16. Suivi temporel de l’évolution d’un domaine scientifique au cours du temps (ici, le TAL). Chaque colonne correspond à une tranche de temps et la carte montre l’importance relative et l’évolution des différents sous-champs du domaine au cours du temps.

Figure 16. Suivi temporel de l’évolution d’un domaine scientifique au cours du temps (ici, le TAL). Chaque colonne correspond à une tranche de temps et la carte montre l’importance relative et l’évolution des différents sous-champs du domaine au cours du temps.

Source de l’illustration : Omodei et al. (2014).

9. Conclusion

173Dans ces quelques pages, nous avons essayé de donner une image aussi complète et aussi diversifiée que possible du très vaste domaine du traitement automatique des langues. Nous n’avons bien sûr pas pu détailler la richesse de ce domaine né il y a maintenant plus de 70 ans, avec l’apparition des premiers ordinateurs. Le but de ce texte est avant tout de donner des points d’entrée dans ce domaine, et le lecteur pourra ensuite lire des ouvrages plus spécialisés sur chacun des points abordés. Il existe en effet une littérature riche sur chaque aspect évoqué ici : aspects théoriques ou plus applicatifs du domaine, aspects historiques ou contemporains, commerciaux ou non.

  • 71 Firth (1957 : 11).

174Le lecteur l’aura sans doute senti à la lecture de ce texte : le domaine est aujourd’hui très peu « linguistique » et les techniques d’analyse sont avant tout informatiques. Elles reposent essentiellement sur l’analyse statistique de gros corpus par des réseaux de neurones et, pour simplifier, sur une approche distributionnelle généralisée qui permet de retrouver des configurations linguistiques typiques (qu’il s’agisse de syntaxe ou de sémantique). C’est pourquoi le célèbre « slogan » de Firth est éternellement cité et repris dans le domaine du traitement automatique des langues et de la linguistique de corpus : « on connaît un mot par son contexte » (« You shall know a word by the company it keeps71 »).

  • 72 Poibeau (2014b).

175Au-delà des aspects pratiques et des performances observées, l’approche statistique semble intéressante dans la mesure où elle souligne la force de certains éléments connus mais trop souvent sous-estimés en linguistique. On peut ainsi citer la nature fondamentalement statistique – on pourrait même dire « zipfienne » – des langues (du lexique, bien entendu, mais aussi de la grammaire) ou le caractère continu de la sémantique (au sens où les mots sont plus ou moins proches sémantiquement les uns des autres – ceci vaut aussi pour la notion de paraphrase). À l’inverse, cette approche semble aussi montrer l’inadéquation des modes de représentation logiques, souvent trop rigides au regard de la plasticité de la langue. L’ambiguïté n’est pas en soi un problème qui devrait être corrigé (ou qui ne peut être résolu qu’à travers l’élaboration de listes infinies) ; c’est en fait le reflet de différents usages des mots dans différents contextes. Chaque contexte est particulier mais il est possible d’identifier des cas d’usages réguliers par généralisation, ce que les statistiques font très bien72.

176Il nous semble qu’il y a toutefois au moins deux limites à cette approche statistique. D’une part, comme nous l’avons déjà souligné, le fait que le contexte pris en compte par les algorithmes actuels reste limité ; définir le contexte idéal, sa nature et son contenu, reste un problème entier. D’autre part, le langage est affaire d’usage et par définition, le texte est un objet figé qui exclut tout le contexte communicationnel extralinguistique. Il est douteux que l’ensemble des connaissances nécessaires au traitement automatique de la langue puisse être inféré automatiquement et directement à partir de corpus, même si ceux-ci se composent de milliards de mots. C’est d’ailleurs en partie pour répondre à ce problème que les systèmes statistiques cherchent de plus en plus à intégrer des ressources linguistiques prédéfinies, même s’il faut ensuite s’assurer de la cohérence de ces données avec celles des modèles statistiques. Il y a là un champ de recherche à part entière.

177Pour conclure, il faut enfin souligner que ces remarques concernent essentiellement la sémantique lexicale (la sémantique des mots, par opposition à la sémantique d’unités supérieures comme la phrase ou le texte). Peu de systèmes actuels intègrent une analyse de la structure des phrases complexes et des liens entre phrases. Quand ces mêmes systèmes doivent aussi produire des textes (que ce soit dans le cadre de la traduction ou du résumé automatique), le résultat est souvent un ensemble de phrases juxtaposées, sans lien clair entre elles ni progression logique. Il reste donc un travail important à faire au niveau textuel pour améliorer l’analyse et la génération de textes. À ce propos, Kenneth Church, dans un article de 2011, regrette le fait que les approches statistiques appliquées au TAL ont jusqu’ici ramassé les « fruits les plus faciles à atteindre » (l’expression « low hanging fruits » est devenue très populaire dans le domaine pour désigner les problèmes les plus abordables). Il existe cependant de nombreux fruits plus difficiles à atteindre, qu’on ne pourra plus ignorer quand les tâches les plus faciles auront été résolues de manière raisonnable. Il n’est alors pas évident que les statistiques suffiront.

Haut de page

Bibliographie

Abeillé, Anne, 1993. Les Nouvelles Syntaxes : grammaires d’unification et analyse du français, Paris, Armand Colin.

Adda-Decker, Martine, Léon, Jacqueline, Luzzati, Daniel, Poibeau, Thierry et Rosset, Sophie (éd.), 2014. Traitements automatiques de l’oral et de l’écrit. Quelle place pour la linguistique ?, numéro spécial de la revue L’Information grammaticale, no 141 et 142.

ALPAC (The Automatic Language Processing Advisory Committee), 1966. Language and Machines – Computers in Translation and Linguistics, Washington, DC, National Academy of Sciences, National Research Council (publication plus connue sous le nom de Rapport ALPAC).

Bar-Hillel, Yoshua, 1958. « Some linguistic obstacles to machine translation », Proceedings of the Second International Congress on Cybernetics, p. 197-207 (repris en annexe dans la publication suivante).

Bar-Hillel, Yoshua, 1959. Report on the State of Machine Translation in the United States and Great Britain, Jerusalem, Hebrew University (Technical report, 15 February 1959).

Bar-Hillel, Yoshua, 1960. « The present status of automatic translation of languages », Advances in Computers, 1, p. 91-163.

Besacier, Laurent, Barnard, Étienne, Karpov, Alexey et Schultz, Tanja, 2014. « Automatic speech recognition for under-resourced languages: A survey », Speech Communication, 56, p. 85-100.

Brown, Peter F., Della Pietra, Vincent J., Della Pietra, Stephen A. et Mercer, Robert L., 1993. « The mathematics of statistical machine translation: Parameter estimation », Computational Linguistics, 19 (2), p. 263-311.

Charolles, Michel, 2004. Référence et expressions référentielles, Paris, Ophrys.

Church, Kenneth, 2011. « A pendulum swung too far », Linguistic Issues in Language Technology, 6/5.

Corblin, Francis, 2013. Cours de sémantique : Introduction, Paris, Armand Colin.

Díaz-Negrillo, Ana, Ballier, Nicolas et Thompson, Paul (éd.), 2013. Automatic Treatment and Analysis of Learner Corpus Data, Dordrecht, John Benjamins Publishing Company.

El-Bèze, Marc, Jackiewicz, Agata et Hunston, Susan (éd.), 2011. Opinions, sentiments et jugements d’évaluation, numéro spécial de la revue TAL (Traitement automatique des langues), 51/3.

Fellbaum, Christiane (éd.), 1998. WordNet: An Electronic Lexical Database, Cambridge (MA), MIT Press.

Fillmore, Charles J., 1982. « Frame semantics », in The Linguistic Society of Korea (éd.), Linguistics in the Morning Calm, Séoul, Hanshin, p. 111-138.

Fillmore, Charles J., 2002. « Linking Sense to Syntax in FrameNet », in Proceedings of 19th International Conference on Computational Linguistics (COLING 2002), Taipei.

Firth, John R., 1957. Papers in Linguistics 1934-1951, Londres, Oxford University Press.

François, Alexandre, 2017. « Méthode comparative et chaînages linguistiques : pour un modèle diffusionniste en généalogie des langues », in J.-L. Léonard (éd.), Diffusion : implantation, affinités, convergence, Louvain, Peeters, p. 43-82.

Fuchs, Catherine, 1996. Les Ambiguïtés du français, Paris, Ophrys.

Gilleron, Rémi, 2019. Apprentissage machine – Clé de l’intelligence artificielle – Une introduction pour non-spécialistes, Paris, Ellipses.

Goodfellow, Ian, Bengio, Yoshua et Courville, Aaron, 2016. Deep Learning, Cambridge, MIT Press.

Gray, Russell D., Atkinson, Quentin D. et Greenhill, Simon J., 2011. « Language evolution and human history : what a difference a date makes », Philosophical Transactions of the Royal Society B : Biological Sciences, http://doi.org/10.1098/rstb.2010.0378

Gross, Maurice, 1975. Méthodes en syntaxe, Paris, Hermann.

Guillaume, Paul, 1979. La Psychologie de la forme, Paris, Flammarion.

Haton, Jean-Paul, 2016. La Parole numérique. Analyse, reconnaissance et synthèse du signal vocal, Bruxelles, Académie royale de Belgique.

Hutchins, John, 1986. Machine Translation : Past, Present, Future, Chichester, Ellis Horwood.

Hutchins, John (éd.), 2000. Early Years in Machine Translation : Memoirs and Biographies of Pioneers, Amsterdam, John Benjamins.

Hutchins, John, 2003. « ALPAC : The (In) famous Report », in S. Nirenburg, H.L. Somers, Y. Wilks (éd.), Readings in Machine Translation, Cambridge, MIT Press, p. 131-135.

Hutchins, John et Somers, Harold L., 1992. An Introduction to Machine Translation, Londres, Academic Press.

Jäger, Gerhard, Rama, Taraka, List, Johann-Mattis et Wahle, Johannes, 2018. « Are automatic methods for cognate detection good enough for phylogenetic reconstruction in historical linguistics ? », Actes de la conference du North American Chapter of the Association for Computational Linguistics : Human Language Technology (NAACL-HLT), vol. 2, p. 393-400.

Jurafsky, Daniel et Martin, James H., 20082. Speech and Language Processing, New York, Prentice Hall.

Kadmon, Nirit, 2001. Formal Pragmatics. Semantics, Pragmatics, Presupposition, and Focus, Oxford, Blackwell Publishers.

Kamp, Hans et Reyle, Uwe, 1993. From Discourse to Logic, Dordrecht, Kluwer.

Kilgarriff, Adam, Baisa, Vít, Bušta, Jan, Jakubíček, Miloš, Kovář, Vojtěch, Michelfeit, Jan, Rychlý, Pavel et Suchomel, Vít, 2014. « The Sketch Engine : Ten years on », Lexicography, 1, p. 7-36.

Kilgarriff, Adam, Rychlý, Pavel, Smrž, Pavel et Tugwell, David, 2004. The Sketch Engine. Information Technology, Brighton, Rapport technique Itri-04-08.

Koehn, Philipp, 2009. Statistical Machine Translation, Cambridge, Cambridge University Press.

Landragin, Frédéric, 2013. Dialogue homme-machine : Conception et enjeux, Paris, Hermès Science.

Langville, Amy N. et Meyer, Carl, 2012. Google`s PageRank and Beyond – The Science of Search Engine Rankings, Princeton, Princeton University Press.

Lebart, Ludovic et Salem, André, 1994. Statistique textuelle, Paris, Dunod (disponible en libre accès : http://lexicometrica.univ-paris3.fr/livre/st94/st94-tdm.html).

Lehmann, Alise et Martin-Berthet, Françoise, 20134. Lexicologie – Sémantique, morphologie et lexicographie, Paris, Armand Colin.

Lehtinen, Jyri, Honkola, Terhi, Korhonen, Kalle, Syrjänen, Kaj, Wahlberg, Niklas et Vesakoski, Outi, 2014. « Behind Family Trees : Secondary Connections in Uralic Language Networks », Language Dynamics and Change, 4, p. 189‑221.

Léon, Jacqueline, 2015. Histoire de l’automatisation des sciences du langage, Lyon, ENS Éditions.

Lim, Kyung Tae, Partanen, Niko et Poibeau, Thierry, 2018. « Analyse syntaxique de langues faiblement dotées à partir de plongements de mots multilingues. Application au same du nord et au komi-zyriène », TAL (Traitement automatique des langues), 59/3, p. 67-91.

Liu, Bing, 2012. Sentiment Analysis and Opinion Mining, San Francisco, Morgan & Claypool.

MacWhinney, Brian, 20003. The CHILDES Project : Tools for analyzing talk, Mahwah, Lawrence Erlbaum Associates.

MacWhinney, Brian, 2019. Tools for Analyzing Talk : The CLAN Program, manuel en ligne : https://talkbank.org/manuals/CHAT.pdf

Mann, William C. et Thompson, Sandra A., 1988. « Rhetorical Structure Theory : Toward a functional theory of text organization », Text, 8 /3, p. 243-281.

Mariani, Joseph, 2002. Reconnaissance de la parole. Traitement automatique du langage parlé, Paris, Lavoisier (Traité IC2).

Michaud, Alexis, Adams, Oliver, Cohn, Trevor, Neubig, Graham, et Guillaume, Séverine, 2018. « Integrating automatic transcription into the language documentation workflow : experiments with Na data and the Persephone toolkit », Language Documentation and Conservation, 12, p. 393–429.

Mikolov, Tomas, Sutskever, Ilya, Chen, Kai, Corrado, Greg et Dean, Jeffrey, 2013. « Distributed Representations of Words and Phrases and their Compositionality », arXiv : 1310.4546.

Navigli, Roberto, 2009. « Word sense disambiguation : a survey », ACM Computing Surveys, 41/2, p. 1-69.

Nivre, Joakim, de Marneffe, Marie-Catherine, Ginter, Filip, Goldberg, Yoav, Hajič, Jan, Manning, Christopher D., McDonald, Ryan, Petrov, Slav, Pyysalo, Sampo, Silveira, Natalia, Tsarfaty, Reut et Zeman, Daniel, 2016. « Universal Dependencies v1 : A Multilingual Treebank Collection », in N. Calzolari et al. (éd.), Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC), Portorož, p. 1659-1666.

Omodei, Elisa, Cointet, Jean-Philippe et Poibeau, Thierry, 2014. « Mapping the Natural Language Processing Domain : Experiments using the ACL Anthology », in The Ninth International Conference on Language Resources and Evaluation (LREC), Reykjavik, p. 2972-2979.

Papineni, Kishore, Roukos, Salim, Ward, Todd et Zhu, Wei-Jing, 2002. « BLEU : A method for automatic evaluation of machine translation », in Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics (ACL), Philadelphie, p. 311–318.

Paroubek, Patrick, Chaudiron, Stéphane et Hirschman, Lynette, 2007. « Principles of Evaluation in Natural Language Processing », Revue TAL (Traitement automatique des Langues), 48/1, p. 7-31.

Péry-Woodley, Marie-Paule, Asher, Nicholas, Enjalbert, Patrice, Benamara, Farah et Bras, Myriam, 2009. « ANNODIS : une approche outillée de l’annotation de structures discursives », in Actes de la conférence sur le Traitement automatique des langues naturelles (TALN), paper_TALN_52,2009. <hal-00410590>.

Picard, Dominique, 1992. « De la communication à l’interaction : l’évolution des modèles », Communication & Langages, 93, p. 69-83.

Poibeau, Thierry, 2003. Extraction automatique d’information, Paris, Hermès Science.

Poibeau, Thierry, 2011. Traitement automatique du contenu textuel, Paris, Hermès Science.

Poibeau, Thierry, 2014a. « Le traitement automatique des langues pour les sciences sociales. Quelques éléments de réflexion à partir d’expériences récentes », Réseaux, 6/188, p. 25-61.

Poibeau, Thierry, 2014b. « La linguistique est-elle soluble dans la statistique ? », Revue Sciences/Lettres, disponible en ligne : http://rsl.revues.org/402

Polguère, Alain, 20163. Lexicologie et sémantique lexicale. Notions fondamentales, Montréal, Presses de l’Université de Montréal.

Poudat, Céline et Landragin, Frédéric, 2017. Explorer un corpus textuel : méthodes – pratiques – outils, Louvain-la-Neuve, De Boeck.

Sabah, Gérard, 1988 et 1989. L’Intelligence artificielle et le langage, vol. 1 Représentation des connaissances et vol. 2 Processus de compréhension, Paris, Hermès.

Sire, Guillaume, 2016. Les Moteurs de recherche, Paris, La Découverte.

Tiedemann, Jorg, 2011. Bitext Alignment, San Rafael, Morgan and Claypool Publishers.

Turing, Alan, 1950. « Computing Machinery and Intelligence », Mind, 59/236, p. 433-460.

Victorri, Bernard et Fuchs, Catherine, 1996. La Polysémie. Construction dynamique du sens, Paris, Hermès.

Weaver, Warren, 1949 [1955]. « Translation », reproduit dans W.N. Locke, D.A. Booth (éd.), Machine Translation of Languages, Cambridge, MIT Press, p. 15-23.

White, John S., OConnell, Theresa et OMara, Francis, 1994. « The ARPA MT evaluation methodologies : Evolution, lessons, and future approaches », in Actes de la conference Association for Machine Translation in the Americas, Columbia, p. 193-205.

Haut de page

Notes

2 Sabah (1988 et 1989), Poibeau (2003 et 2011) et Léon (2015).

3 Adda-Decker et al. (2014).

4 Gilleron (2019).

5 Poibeau (2017).

6 Navigli (2009).

7 Lebart et Salem (1994).

8 Fuchs (1996).

9 Guillaume (1979).

10 Victorri et Fuchs (1996). À l’inverse, la publicité joue fréquemment sur le maintien d’une ambiguïté volontaire de sens (par exemple dans un slogan comme « Il a Free, il a tout compris »). Beaucoup de personnes ne voient d’ailleurs pas le double sens spontanément, ce qui montre qu’en situation normale, le cerveau sélectionne naturellement un sens particulier et évite au maximum la double analyse.

11 Léon (2015).

12 Poibeau (2017).

13 Turing (1950).

14 Landragin (2013).

15 Sur toute cette période, outre les références déjà citées, voir les livres de référence de Hutchins (1986), Hutchins et Somers (1992) et Hutchins (2000).

16 Bar-Hillel (1958, 1959 et 1960).

17 ALPAC (1966) ; Hutchins (2003).

18 Sur la situation en France, l’ouvrage déjà cité de Léon (2015) constitue la meilleure source d’information.

19 Brown et al. (1993).

20 Tiedemann (2011).

21 Koehn (2009).

22 http://www.cis.uni-muenchen.de/~schmid/tools/TreeTagger/.

23 Paroubek et al. (2007).

24 Gilleron (2019) et Goodfellow et al. (2016).

25 Formalisme qui permet de prédire un évènement futur en fonction du passé ; en TAL, on utilise les chaînes de Markov pour prédire l’étiquette morphosyntaxique d’un mot m en fonction des étiquettes morphosyntaxiques des quelques mots qui précèdent. Ce type de formalisme est bien adapté pour traiter un texte vu comme une séquence d’éléments (une séquence linéaire de mots ou d’étiquettes). Sur ce point et concernant aussi les notes suivantes, voir Gilleron (2019).

26 Modèle inspiré des chaînes de Markov, mais pouvant prendre une décision sur la base d’informations plus diverses : sont considérés non seulement les étiquettes, mais aussi les mots eux-mêmes ainsi que des liens complexes entre les mots. Ces liens peuvent représenter des éléments de structure, ce qui permet de s’affranchir partiellement de la notion de séquence de mots.

27 Un SVM est un classifieur binaire (c’est-à-dire un système renvoyant une valeur 0 ou 1) en fonction d’un très grand nombre de paramètres. Les SVM permettent d’encoder toute sorte de relations, et donc de structures, indépendamment de l’ordre linéaire des mots dans la phrase. On peut combiner plusieurs SVM pour obtenir un système puissant, qui ne soit plus simplement binaire (et il faut noter que tout problème peut être reformulé comme un problème de prise de décision : par exemple, un classifieur binaire peut dire si la relation entre deux mots est de type sujet-verbe ou non, etc., ce qui peut permettre de décrire un analyseur syntaxique complet).

28 Voir Mariani (2002) pour une bonne synthèse en français.

29 Voir Poudat et Landragin (2017), en particulier le chapitre 2.

30 Jurafsky et Martin (2008).

31 Nivre et al. (2016).

32 Id.

33 Lim et al. (2018).

34 Polguère (2016).

35 Kadmon (2001), Charolles (2004) et Corblin (2013).

36 Mann et Thomson (1988).

37 Kamp et Reyle (1993).

38 Mikolov et al. (2013).

39 Firth (1957).

40 Abeillé (1993).

41 Gross (1975).

42 Fellbaum (1998).

43 Fillmore (2002).

44 Id. (1982).

45 Poibeau (2011).

46 Péry-Woodley et al. (2009).

47 Poibeau (2003).

48 White et al. (1994) et Poibeau (2017).

49 Papieni et al. (2002).

50 Poibeau (2003, 2011) et Paroubek et al. (2007).

51 Lehmann et Martin-Berthet (2003) ; Polguère (2016).

52 Killgarrif et al. (2004, 2014) ; voir aussi le site Web http://www.sketchengine.eu

53 Besacier et al. (2014) et Michaud et al. (2018).

54 Nivre et al. (2016).

55 https://childes.talkbank.org ; voir MacWhinney (2000).

56 MacWhinney (2019).

57 On peut donner ici la définition de Wikipedia (https://fr.wikipedia.org/wiki/Liste_Swadesh) : « Liste de mots appartenant à une partie du lexique la plus résistante au changement établie par le linguiste et anthropologue américain Morris Swadesh, dans les années 1940-1950. Elle est utilisée en linguistique comparée, en linguistique historique et aussi en anthropologie pour notamment identifier le lexique de base de toute langue étudiée pour la première fois, ainsi qu’établir le degré de proximité de deux ou plusieurs langues. »

58 https://wals.info ; voir Jäger et al. (2018).

59 François (2017).

60 Poibeau (2003, 2011).

61 Sire (2016).

62 Langville et Meyer (2012).

63 El-Bèze et al. (2010) et Liu (2012).

64 Poibeau (2017).

65 Díaz-Negrillo et al. (2013).

66 Haton (2016).

67 Landragin (2013).

68 Poibeau (2014a).

69 Id. (2003).

70 Omodei et al. (2014).

71 Firth (1957 : 11).

72 Poibeau (2014b).

Haut de page

Table des illustrations

Titre Figure 1. Le cube de Necker, une illusion d’optique publiée par Louis Albert Necker en 1832.
Crédits Source de l’illustration : https://fr.wikipedia.org/​wiki/​Cube_de_Necker#/​media/​File:Necker_cube.svg
URL http://journals.openedition.org/lalies/docannexe/image/289/img-1.jpg
Fichier image/jpeg, 20k
Titre Figure 2. Le schéma de la communication d’après Shannon et Weaver.
Crédits Source de l’illustration : Picard (1992).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-2.jpg
Fichier image/jpeg, 21k
Titre Figure 3. Le triangle de Vauquois.
Crédits Source de l’illustration : https://fr.wikipedia.org/​wiki/​Fichier:Triangle_de_vauquois.svg
URL http://journals.openedition.org/lalies/docannexe/image/289/img-3.jpg
Fichier image/jpeg, 33k
Titre Figure 4. Un texte analysé par un analyseur morphosyntaxique.
Crédits Résultat de l’analyse d’un texte par le logiciel TreeTagger.
URL http://journals.openedition.org/lalies/docannexe/image/289/img-4.jpg
Fichier image/jpeg, 47k
Titre Figure 5. Analyse syntaxique d’une même phrase dans quatre langues différentes : anglais, bulgare, tchèque et suédois.
Crédits Source de l’illustration : https://universaldependencies.org/​introduction.html (visité le 21 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-5.jpg
Fichier image/jpeg, 249k
Titre Figure 6. Analyse sémantique des prédicats et de leurs arguments au moyen de cadres, suivant la théorie appelée Frame semantics.
Crédits Source de l’illustration : https://www.groundai.com/​project/​frame-semantic-parsing-with-softmax-margin-segmental-rnns-and-a-syntactic-scaffold/​ (visité le 21 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-6.jpg
Fichier image/jpeg, 112k
Titre Figure 7. Interface du système appelé SketchEngine.
Crédits Source de l’illustration : https://www.researchgate.net/​figure/​Sketch-Difference-for-the-comparative-study-of-the-terms-therapy-and-chemotherapy_fig3_325145911 (visité le 21 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-7.jpg
Fichier image/jpeg, 170k
Titre Figure 8. Reconstitution et modélisation de liens entre langues à partir de l’analyse de bases de données de linguistique historique. À gauche, reconstitution sous forme d’arbre des liens de parenté entre langues indo-européennes, à droite, reconstitution sous forme de réseau des liens entre langues finno-ougriennes.
Crédits Gray et al. (2011). Source de l’illustration : https://royalsocietypublishing.org/​doi/​full/​10.1098/​rstb.2010.0378 (visité le 21 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-8.jpg
Fichier image/jpeg, 198k
Crédits Lehtinen et al. (2014). Source de l’illustration : https://journals.openedition.org/​efo/​7099 (visité le 21 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-9.jpg
Fichier image/jpeg, 119k
Titre Figure 9. Résultat d’une recherche avec le moteur de recherche de Google pour la requête « fromage purée Cantal ».
Crédits Source de l’illustration : https://www.google.fr (visité le 22 août 2018).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-10.jpg
Fichier image/jpeg, 234k
Titre Figure 10. Interface de Google Actualité (Google News en anglais).
Crédits Source de l’illustration : https://news.google.com (visité le 22 août 2018).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-11.jpg
Fichier image/jpeg, 203k
Titre Figure 11. Un correcteur orthographique et grammatical (ici, le système Antidote).
Crédits Source de l’illustration : https://applications.developpez.com/​actu/​85501/​ (visité le 22 janvier 2019).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-12.jpg
Fichier image/jpeg, 427k
Titre Figure 12. Porte d’accès à la plateforme de ressources pour l’apprentissage du same en ligne.
Crédits Source de l’illustration : http://kursa.oahpa.no (visité le 22 août 2018).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-13.jpg
Fichier image/jpeg, 238k
Titre Figure 13. Un agent intelligent (répondant à des requêtes pour la marque Nespresso).
Crédits Source de l’illustration : https://www.nespresso.com/​fr/​fr/​service-customer-care (visité le 22 août 2018).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-14.jpg
Fichier image/jpeg, 95k
Titre Figure 14. Un système d’analyse et de suivi en direct d’un fil d’agences de presse.
Crédits Source de l’illustration : Poibeau (2003).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-15.jpg
Fichier image/jpeg, 560k
Titre Figure 15. Modélisation d’un domaine scientifique : le traitement automatique des langues vu à un niveau macroscopique. Chaque cercle correspond à un sous-domaine particulier.
Crédits Source de l’illustration : Omodei et al. (2014).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-16.jpg
Fichier image/jpeg, 383k
Titre Figure 16. Suivi temporel de l’évolution d’un domaine scientifique au cours du temps (ici, le TAL). Chaque colonne correspond à une tranche de temps et la carte montre l’importance relative et l’évolution des différents sous-champs du domaine au cours du temps.
Crédits Source de l’illustration : Omodei et al. (2014).
URL http://journals.openedition.org/lalies/docannexe/image/289/img-17.jpg
Fichier image/jpeg, 171k
Haut de page

Pour citer cet article

Référence papier

Thierry Poibeau, « Le traitement automatique des langues : tendances et enjeux »Lalies, 39 | 2019, 7-65.

Référence électronique

Thierry Poibeau, « Le traitement automatique des langues : tendances et enjeux »Lalies [En ligne], 39 | 2019, mis en ligne le 01 juillet 2024, consulté le 07 juillet 2025. URL : http://journals.openedition.org/lalies/289 ; DOI : https://doi.org/10.4000/1231f

Haut de page

Auteur

Thierry Poibeau

Lattice CNRS & École normale supérieure / PSL
& Université Sorbonne nouvelle / USPC
thierry.poibeau[at]ens.fr

Haut de page

Droits d’auteur

CC-BY-SA-4.0

Le texte seul est utilisable sous licence CC BY-SA 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search