Von Graphen zu Word Embeddings – Zur Entwicklung des mathematischen und visuellen Instrumentariums der Literaturwissenschaft
Résumés
Partant de la constatation que les Humanités Numériques ont intensifié le recours aux pratiques de visualisation dans le cadre d’approches quantitatives des études littéraires, cet article se penche d’une part sur le mode de fonctionnement et les limites des méthodes de visualisation dans le processus herméneutique, d’autre part sur les fondements mathématiques des calculs sur lesquelles elles s’appuient. Il discute pour finir les implications pédagogiques, pour les philologies, de la complexité de ces méthodes.
Entrées d’index
Mots-clés :
études littéraires, visualisation, humanités numériques, approches quantitatives, herméneutiqueKeywords:
data visualization, digital humanities, computational literary studies, hermeneutics, data literacySchlagwortindex:
digital humanities, visualisierung, hermeneutik, experimentelle verfahren, philologienPlan
Haut de pageTexte intégral
- 1 Franco Moretti, Distant Reading, London/New York, Verso, 2013.
1Visuelle Repräsentationen von Literaturphänomenen haben lange die Institutionalisierung von Literaturwissenschaft geprägt. Literarische Bewegungen wurden in Schulbüchern in Form von Zeitleisten dargestellt, dramatische Handlungen mit der Freytagschen Pyramide abgebildet, der Interpretationsprozess durch den sogenannten hermeneutischen Zirkel repräsentiert – und dies schon seit dem 19. Jahrhundert. Bereits diese Ansätze setzten sich zum Ziel, übergeordnete Strukturen anschaulich zu machen, die sich aus dem literarischen Text ableiten lassen. Die Idee des Distant Reading (nach Moretti)1 ist damit in diesen Formen der Textrepräsentation präsent, lange bevor die Digital Humanities sie zu einem Bestandteil der Analyse von Literatur und zur Integration quantitativer Methoden in den Literaturwissenschaften machten. Lange Zeit aber diente die systematisierte Erfassung von übergreifenden Phänomenen vorrangig einer Normierung des Wissens über Literatur, gegen die sich die Digital Humanities letztlich wehren.
- 2 Vgl. Rabea Kleymann, Jan-Erik Stange, „Towards Hermeneutic Visualization in Digital Literary Studie (...)
- 3 Vgl. Jacques Bertin, Sémiologie graphique. Les diagrammes, les réseaux, les cartes, Paris, Editions (...)
- 4 Vgl. Isabelle Meirelles, „Visualizing information“, in: Julia Flanders, Fotis Jannidis (Hg.), The S (...)
2Normative Intention hin oder her: Fakt ist, dass die Digital Humanities, und spezifischer die Computational Literary Studies (bzw. Digital Literary Studies)2, auf Vorarbeiten zurückgreifen konnten, die eine solche Integration von visuellen Repräsentationen von Text in den wissenschaftlichen Explorationsprozess durchaus erleichterten. 1967 erarbeitete der Semiologe Jacques Bertin ein universelles Alphabet der Grundeinstellungen visueller Repräsentationen3. Die Anwendung in der Geographie oder der Soziologie war in einem ersten Schritt das Nächstliegende, doch die Erweiterung auf literarische Phänomene konnte sich ebenfalls in einem weiteren Schritt darauf stützen. Der anschließende Ansatz von Isabelle Meirelles4 ist ein gutes Beispiel für die Einbettung von Arbeiten aus dem Bereich des visuellen Designs in andere wissenschaftliche Zusammenhänge – darunter die Literaturwissenschaft – unter dem Vorzeichen der Informationswissenschaften. In pädagogisch orientierten Aufsätzen gelingt es Meirelles, das Grundvokabular des visuellen Informationsdesigns für die Literaturwissenschaft lesbar zu machen, d.h. die Grundprinzipien in hermeneutische Werte ummünzbar zu machen.
3Ausgehend von diesen Beiträgen der visuellen Informationskommunikation möchten wir im Folgenden zunächst einen kleinen Umriss dessen präsentieren, wie in der Literaturwissenschaft versucht wurde, sich im Zusammenhang mit den Digital Humanities ein visuelles Instrumentarium zu schaffen. Im zweiten Teil gehen wir konkreter auf die mathematische Grundlage solcher Visualisierungsformen ein, um einen Eindruck dessen zu vermitteln, welche Erkenntnisse dadurch über literarische Texte gewonnen werden können. Als Leitfaden dient uns die Frage, was mit diesen visuellen Repräsentationen gezeigt werden soll, d.h. wie sie bei der Arbeit am literarischen Text zum hermeneutischen Prozess beitragen: Tragen sie zur Normierung von literaturwissenschaftlichen Diskursen bei oder im Gegenteil zur Entstehung neuartiger Erkenntnisse? Wie ist der Beitrag des dadurch ermöglichten Skalenwechsels ins Quantitative einzuschätzen?
Computer, Tools, Netzwerke: das goldene Zeitalter der Textrepräsentation?
- 5 Franco Moretti, Graphs, Maps, Trees. Abstract Models for a Literary History, London/New York, Verso (...)
4Der 2005 von Franco Moretti veröffentlichte Band Graphs Maps Trees leitete eine Welle der Begeisterung für Formen der visuellen Repräsentation von Informationen aus literarischen Texten aus5. Neben der Beleuchtung von unterschiedlichen Repräsentationsmustern (Graphen, Karten, Bäume) war es Morettis großes Verdienst, auf die Notwendigkeit hinzuweisen, visuelle Repräsentation nicht nur als Abbildung oder Illustration zu konzipieren, sondern diese an eine Vorarbeit am Text zu koppeln, welche die Informationsextraktion zu Visualisierungszwecken bewerkstelligen helfen würde. Dieser Zwischenschritt der Modellierung von Information ist nicht nur die Schaltstelle für den Einsatz von mathematischen Methoden in der Arbeit an literarischen Texten: Er leitet auch im Selbstverständnis der Literaturwissenschaft eine epistemologische Wende in dem Sinne ein, dass sich der hermeneutische Prozess von nun an nicht nur aus einer Spirale des sich vertiefenden Textverständnisses zusammensetzt, sondern explizit eine Phase der Strukturierung von Information beinhaltet. „Worin besteht die Information, die es zu interpretieren gilt?“ und „Wie sammle ich diese Information?“ werden fortan legitime Fragen der digital agierenden Literaturwissenschaft – auch eine Herausforderung für die explizit nicht digitale.
5Morettis drei Visualisierungsmethoden (Graphen, Karten, Bäume) ebneten zwar den Weg zu einer Vielfalt von Visualisierungsformen, dabei die Frage nach der Formalisierung von Informationen aufwerfend, doch es pendelten sich Anwendungsfälle für diese unterschiedlichen Methoden ein, die die Kreativität in deren Umsetzung einschränkte.
- 6 Vgl. Anne Baillot, „Die Krux mit dem Netz. Verknüpfung und Visualisierung bei digitalen Briefeditio (...)
- 7 Vgl. https://vistorian.net/, https://hdlab.stanford.edu/palladio/, https://nodegoat.net/, https://g (...)
- 8 Vgl. https://dracor.org/, Zugriff am 25.09.2022.
- 9 Am Beispiel der Räuber hier einsehbar: https://dracor.org/ger/schiller-die-raeuber#network (durch A (...)
6Diese Entwicklung lässt sich besonders gut am Beispiel von Netzwerken nachvollziehen. Weil sie darauf angelegt sind, Beziehungen gewichtet zu repräsentieren, wurden Netzwerkvisualisierungen bevorzugt eingesetzt, um Figurenkonstellationen abzubilden. Das macht Moretti selbst z.B. im Zusammenhang mit Dramenfiguren. Doch wer über einfache Illustrationen hinausgehen will (etwa mit der Struktur: ein Pfeil = eine Beziehung), braucht Rechenmodelle, die zum einen die Größe der Punkte (nodes) und zum anderen die Breite der Kanten (edges) nach ihrer respektiven Wichtigkeit bestimmen6. Die große Beliebtheit von Netzwerkvisualisierungen insbesondere im Kontext von historischen Forschungen, die verstärkt mit Informationen aus dem Bereich der automatischen Eigennamenerkennung arbeiten, führte zur Entwicklung einer Reihe von unterschiedlich leicht handhabbaren Tools, um diese darzustellen: Vistorian, Palladio, Nodegoat, Gephi7. Gephi ist ein relativ komplexes Instrument, das auch 3D-Visualisierungen generiert – jedoch ohne, dass dem Nutzer/der Nutzerin immer klar ist, nach welchen Regeln diese Netzwerkvisualisierungen generiert werden. Neuere Ansätze sind um Transparenz in den verwendeten Einstellungen bemüht, so etwa die Plattform DRACOR8, die Theaterproduktionen gewidmet ist. Dort kann man beispielsweise für jedes Schiller-Stück die Figurenkonstellationen in einem Personennetzwerk repräsentiert finden, ebenso die Verwandtschaftsbeziehungen zwischen den Figuren und die Verteilung des Textes je nach Szene – die eingesetzten Einstellungen sind immer am Rande der Webseite mit einsehbar9.
7Was bei der Darstellung einer großen Informationsmenge an Klarheit gewonnen werden kann, wird aber oft durch die Undurchsichtigkeit der Berechnungsmethodik verloren. Als Geisteswissenschaftlerin bzw. Geisteswissenschaftler sieht man zwar etwas, verfügt aber nicht unbedingt über das Wissen, das es möglich machen würde, das Gesehene treffend zu interpretieren.
- 10 Vgl. Anne Baillot, „Das Netzwerk als Kunstwerk“, in: Die Kommunikations-, Wissens-, und Handlungsrä (...)
- 11 Vgl. https://voyant-tools.org/, Zugriff am 25.09.2022.
- 12 S. Cristian Felix, Steven L. Franconeri, Enrico Bertini, „Taking Word Clouds Apart: An Empirical In (...)
8Während sich Netzwerkvisualisierungen im Zusammenhang mit (realen oder fiktionalen) Personen als eine Form des literaturwissenschaftlichen Erkenntnisgewinns etablierten10, wurde speziell für die Literaturwissenschaft ein Instrumentarium zur Verfügung gestellt, das die Vielfalt der Bedürfnisse adressieren wollte, welche literaturwissenschaftliche Fragestellungen mit sich bringen. Die Voyant-Tools11 stellen eine breite Palette an Visualisierungsformen für die Exploration literarischer Texte zur Verfügung. Sie bieten u.a. auch Wordclouds, d.h. Schlagwortwolken, eine der einfachsten Formen der Repräsentation von Worten und ihrer Verteilung in Texten. In einer Wortwolke werden die vorkommenden Worte je nach Gewichtung im Ausgangskorpus unterschiedlich groß dargestellt: Je öfter ein Wort vorkommt, desto größer erscheint es in der Wortwolke – so dass durch die visuelle Repräsentation ein Eindruck der relativen Wichtigkeit der vorkommenden Worte vermittelt wird. Allerdings reicht es nicht aus, einfach den Text einzuspeisen und „Wortwolke generieren“ anzuklicken. Füllwörter müssen herausgefiltert, unterschiedliche Formen desselben Wortes (Singular/Plural, unterschiedliche Konjugationen eines Verbs, deklinierte Formen eines Nomens, etc.) zusammengeführt werden. Die zahlreichen Kritiken an Wortwolken12 haben dazu geführt, dass diese kaum noch als Methode des wissenschaftlichen Erkenntnisgewinns betrachtet und vielmehr als visueller Aufhänger eingesetzt werden: ein gutes Beispiel für die Gratwanderung zwischen Erkenntnisgewinn und schönem Schmuck, die den Einsatz von visuellen Textrepräsentationen in der literaturwissenschaftlichen Forschung oft noch charakterisiert.
- 13 Stéfan Sinclair, Stan Ruecker, Milena Radzikowska, „Information Visualization for Humanities Schola (...)
9In ihrem 2013 veröffentlichten Artikel „Information visualization for Humanities scholars“ gehen die Entwickler der Voyant Tools auf die Geschichte der dynamischen Repräsentationsmöglichkeiten ein, die, angelehnt an die Entwicklung von Browsern, ihrem eigenen Darstellungsangebot vorausgingen13. Sie gehen auf die zu leistende Vorarbeit ein, ehe von literarischen Texten Visualisierungen hergestellt werden können, denn, wenn diese es ermöglichen, „den Wald“, der „vor lauter Bäumen“ (§ 47) nicht zu sehen war, vor Augen zu führen, ist das Risiko aber auch groß, da einen Wald zu sehen, wo nur Bäume stehen, d.h. ein allgemeingültiges Muster erkennen zu wollen, wo de facto eine Idiosynkrasie (§ 49) einschlägig ist. Die Vielfalt der Visualisierungsformen – auch die in Voyant angebotenen – öffnet nicht nur die Möglichkeit eines an diesen angelehnten Interpretationsansatzes, sondern macht auch die Notwendigkeit klar, im Schritt vor der Generierung von Visualisierungen eine weitere Arbeitsetappe zu konsolidieren, an der Schnittstelle zwischen Korpuskonstitution und Informationsmodellierung. Je nachdem, welche Texte in Voyant (oder in einem anderweitigen Visualisierungsgenerierungssystem) eingespeist werden, und in welcher Form sie es werden, wird etwas anderes abgebildet.
- 14 Vgl. https://fortext.net/tools/tools/catma: Evelyn Gius, Jan Christoph Meister, Malte Meister, Marc (...)
10An der Notwendigkeit, sich darüber Gedanken zu machen, welche Informationen repräsentiert werden sollen, setzt CATMA-fortext14 ein. CATMA hat zum Ziel, es Literaturwissenschaftlerinnen und Literaturwissenschaftler bei der Annotation von Texten leichter zu machen. Eine solche Annotation verleiht den Informationen Struktur, die im Nachgang visualisiert werden können. Damit wird eine didaktische Anleitung an Formen des Skalenwechsels in der Literaturwissenschaft angeboten, d.h. eine Herangehensweise an die Zwischenschritte, die Literaturwissenschaftlerinnen bzw. Literaturwissenschaftler einlegen müssen, damit die für sie relevanten Texte durch die Maschine so prozessierbar sind, dass die Forscherinnen und Forscher am Ende mit der Repräsentation des von ihnen Annotierten in der Interpretation des Textes weiterkommen.
- 15 Vgl. R. Kleymann, J.-E. Stange, „Towards Hermeneutic Visualization in Digital Literary Studies“, a. (...)
11In diesem Fall wie in vielen anderen jedoch bleiben die gängigen Visualisierungsoptionen in den Literaturwissenschaften weit hinter dem, was dem Korpus gerecht werden würde. Zum einen bleiben in der Regel die dahinterliegenden Rechenmethoden unklar (was ja daran liegt, dass sie für Literaturwissenschaftlerinnen und Literaturwissenschaftler nicht unmittelbar verständlich sind und in den einschlägigen Arbeitsumgebungen selten prominent bzw. didaktisch genug aufgeführt werden). Zum anderen würde ihre Komplexität für Repräsentationsformen plädieren, die weit über das hinausgehen, was das menschliche Auge in den von Bertin und Meirelles definierten Vokabularien leicht erfassen kann. Diese Vokabularien wurden neuerdings erweitert, z.B. durch Kleymann und Stange15. Diese führen nun Visualisierungen für die Digital Humanities auf vier Postulate zurück, die in Anlehnung an die Arbeiten von Johanna Drucker definiert wurden.
- 16 Vgl. Johanna Drucker, „What do digital humanists want from visualization? “, 2016 https://www.youtu (...)
12In ihren zahlreichen Arbeiten zur Frage nach der Visualisierung von Daten geht Johanna Drucker unter anderem auf zwei Punkte ein, die im Zusammenhang mit literaturwissenschaftlichen Fragestellungen von Interesse sind und in einem 2016 veröffentlichen Video-Vortrag besonders anschaulich gemacht wurden16. Dort heißt es zunächst, dass in der Visualisierung Argument und Beleg kollabieren, was das Auseinandernehmen beider Elemente schwieriger macht. Offensichtlich dient die Visualisierung in diesem Fall der Analyse, nicht der Exploration (und inwiefern sie dann zum hermeneutischen Erkenntnisgewinn beiträgt, ist nicht ganz klar). Eine der Fragen, die sich Literaturwissenschaftlerinnen und Literaturwissenschaftler stellen sollten, ehe sie Visualisierungen einsetzen, ist also, ob diese als analytischer Baustein dienen sollen oder als anregende Illustration, die womöglich das Auge in eine neue Richtung lenkt.
13Der zweite von Drucker erwähnte, hier relevante Punkt weist auf eine weitere Beschränkung hin, die es ebenfalls in Betracht zu ziehen gilt. In ihrem Video bemüht Drucker unterschiedliche Arten und Weisen, denselben Datensatz zu visualisieren. Einmal wird das Bild um 90 Grad gedreht („If you can turn it on the side, you can read it“), einmal wird eine dritte Dimension hinzugefügt, mit dem Ergebnis, dass plötzlich Punkte sich voneinander abheben und sichtbar werden, die in konzentrierteren Repräsentationen zu dicht beieinanderstanden, als dass ein Muster erkannt werden könnte. Diese Form der Umvisualisierung wirft die Frage nach der Willkür der gewählten Visualisierungsformate und ihres Einflusses auf die daraus abzuleitende Interpretation auf. Drucker erkundet in ihrem Vortrag die Grenze, die zwischen hochdimensionalen mathematischen und visuellen Repräsentationen verläuft: Sicher kann noch eine dritte Dimension hinzugefügt werden, aber mehr kann das menschliche Auge nicht intuitiv erfassen, während mathematische Modelle in viel mehr Dimensionen arbeiten als nur drei. Das, was berechnet werden kann, übersteigt in vielem das, was das Auge visuell erfassen kann. Wozu dann die schönen Visualisierungen, wenn sie das Berechnete nicht wiedergeben können?
14Damit wird auch hinterfragt, worin die hermeneutische Leistung in der Literaturwissenschaft besteht und welche Medialitätsformen dabei ihren Platz haben. Die Kompetenz, mit Graphen zu arbeiten, wird in literaturwissenschaftlichen Curricula nicht vermittelt. Auch intertextuelle Interpretationen beruhen in der Regel auf einer linearen Zusammenstellung von Textpassagen, insgesamt ist immer noch Linearität die vorherrschende Form des Lesens, auch wenn digitale Formate es ermöglichen würden, diagonale Lektürewege zu entwickeln bzw. weitere Kombinationen von Textualität heranzuziehen. Nicht nur quantitativ, sondern auch qualitativ bieten digitale Methoden Wege, das Lesen und Interpretieren literarischer Texte zu erneuern. Aber inwiefern brauchen wir dabei mathematische Verfahren?
Textrepräsentationen des maschinellen Lernens: ein Zwischenschritt für Visualisierungen als Interpretationshilfe der Literaturwissenschaft
- 17 Vgl. Stephen Ramsay, Reading Machines, Toward an Algorithmic Criticism, Urbana Champain, University (...)
- 18 Vgl. John Burrows, „‘Delta’: a measure of stylistic difference and a guide to likely authorship“, L (...)
- 19 Vgl. Fotis Jannidis, Gerhard Lauer, „Burrows Delta and its Use in German Literary History“, in: Mat (...)
15Im vorangegangenen Abschnitt wurde schon darauf eingegangen, dass es hochdimensionale mathematische Repräsentationen gibt, die als Zwischenschritt erzeugt werden, um dann in niedrigerer Dimensionalität visualisiert zu werden. Dieses Verfahren wird bspw. bei Ramsay 2011 diskutiert, wenn er relative Worthäufigkeiten bestimmt, dann allerdings nur eine kleine Auswahl tabellarisch aufführt17. Wichtiges Kriterium bei Ramsay ist das Algorithmische („Toward an Algorithmic Criticism“), also eine Abfolge von Befehlen, die bspw. aus einem Textkorpus eine hochdimensionale Repräsentation für die enthaltenen Dokumente erstellt, dann paarweise Ähnlichkeiten berechnet und diese dann visualisiert. Dafür werden z.B. Bag-of-Words verwendet, also eine Repräsentation, die für jedes Wort im Gesamtkorpus (Vokabular) zählt, wie oft es in jedem Dokument enthalten ist. Die Repräsentation eines Dokuments ist dann also ein Vektor, dessen Anzahl an Einträgen der Länge des Vokabulars entspricht. Durch die Berechnung der paarweisen Ähnlichkeiten der Dokumente fallen die vielen Dimensionen zusammen und lassen sich visualisieren. Ein Beispiel für eine Anwendung in den Computational Literary Studies, die der gerade beschriebenen sehr ähnlich ist, wäre Stilometrie mithilfe von z.B. Burrows’ Delta18. Die Stilometrie versucht anhand der Distanzen zwischen diesen Bag-of-Words Vektoren Texte unterschiedlicher Autorinnen und Autoren zu unterscheiden19. Um aber beim Beispiel von Schillers Räuber zu bleiben, könnten die Personen im Stück stilometrisch verglichen werden, indem die Reden jeder Figur zusammengefasst werden und jeweils eine Bag-of-Words erstellt werden könnte. Die Distanzen zwischen den Vektoren können in einem Dendrogramm visualisiert werden, also in einer Baumstruktur, bei der die Blätter die einzelnen Figuren repräsentieren und die Länge der Kanten nach einer jeden Verästelung die überbrückte Distanz der beiden Teilbäume repräsentiert. Die Visualisierung kann dann von einem Menschen interpretiert werden und somit ist es eine kritische Beurteilung (ein „Criticism“) durch einen Menschen mithilfe eines Algorithmus, denn die konzeptionelle Arbeitsetappe (die Wahl der Art der Repräsentation, die der Fragestellung gerecht wird) hat vorher stattgefunden. Offensichtlich ist nicht jede Repräsentation bzw. Visualisierung für jedes Korpus und jede Fragestellung passend, und die Entscheidung darüber kann auch nicht von einem Algorithmus getroffen werden. So könnte man in unserem hypothetischen Fall der Räuber von Unterschieden in den Reden der verschiedenen Figuren ausgehen, die mithilfe von Stilometrie gefunden werden könnten.
16Wir behaupten nicht, dass sich durch die Anwendung von Methoden des maschinellen Lernens plötzlich Literaturwissenschaftlerinnen und Literaturwissenschaftler durch statistische Modelle ersetzen ließen, dennoch verschieben sich die klaren Grenzen zwischen der regelbasierten Lesemaschine und dem urteilenden Menschen ein wenig, wenn statistische Repräsentationen verwendet werden.
- 20 S. Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg S. Corrado, Jeff Dean, „Distributed representation (...)
- 21 Vgl. Sinai Rusinek, Nitzan Gado, „Feeding a Gazetteer: Leveraging word embeddings for toponym minin (...)
17Anstelle einer Bag-of-Words-Repräsentation ließen sich auch Word Embeddings (Worteinbettung) einsetzen. Mit Word Embeddings20 sind Repräsentationen gemeint, bei denen jedem Wort im Korpus ein Vektor zugeordnet ist. Die Repräsentationen der Worte im Vektorraum sind hierbei so angeordnet, dass Worte, die sich syntaktisch oder semantisch ähnlich sind, auch im repräsentierten Raum nah beieinander liegen. Diese Word Embeddings lassen sich beispielsweise auf einem anderen als dem zu analysierenden Korpus trainieren (wir könnten hier das zu analysierende Korpus Subjektkorpus nennen und das Korpus, auf dem die Word Embeddings trainiert wurden, als Referenzkorpus bezeichnen) und enthalten damit bestimmte syntaktische und semantische Informationen des Referenzkorpus. Word Embeddings werden dafür verwendet, Varianten von Named Entities (Eigennamen) zu identifizieren21. In Schillers Räuber könnten beispielsweise auch Worte mit bestimmten syntaktischen Eigenschaften identifiziert werden, etwa Imperativformen. Eine Visualisierung der Ergebnisse basierend auf diesen Repräsentationen wäre dann nicht mehr rein regelbasiert, sie wäre auch nicht nur basierend auf dem Subjektkorpus, sondern eine selektive Aggregation der dem Referenzkorpus extrahierten Informationen. Kategorisierend könnte man von einer Entwicklung von ‚regelbasiert‘ (Algorithmus) über ‚nur basierend auf dem Subjektkorpus‘ (klassische Statistik) hin zu ‚basierend auf Referenzkorpus‘ (Maschinelles Lernen) sprechen. Man könnte diese Interaktion zwischen großem Referenzkorpus und zu untersuchendem Subjektkorpus in Analogie zu der Interaktion zwischen Leserinnen bzw. Leser eines Textes (Subjektkorpus) vor dem Hintergrund ihres gesamten Lesehorizontes (Referenzkorpus) sehen.
- 22 Vgl. Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, „BERT: Pre-training of Deep Bidi (...)
18Die konzeptionelle Arbeitsetappe wird bei diesem Ansatz weiterhin benötigt, nur müssen andere Überlegungen angestellt werden, z.B. ‚Wie konstruiere ich mein Referenzkorpus?‘ ‚Welche Eigenschaften sollten in der Repräsentation enthalten sein, sollte ich bspw. nur Lemmata des Referenzkorpus verwenden?‘. Es bleibt also wie bisher ein Großteil der Methoden- und Parameterauswahl in den Händen der Forschenden. Außerdem besteht bis heute trotz intensiver Forschung der Machine Learning Community das Problem der Repräsentation von längeren Textsequenzen. Auch wenn die Embeddings schon lange nicht mehr wie Word Embeddings auf einzelne Worte beschränkt sind, können viele Modelle (sogenannte Language Models)22, Sequenzen von maximal ein paar hundert Worten Länge verarbeiten. Mit Modell ist hier ein Machine-Learning-Modell gemeint, also eine Instanz einer bestimmten Architektur, die mithilfe eines Trainingsalgorithmus und eines Datensatzes ‚trainiert‘ werden kann, um auf einem anderen Datensatz Vorhersagen zu treffen. Das Modell beinhaltet die Architektur sowie die zu trainierenden bzw. schon trainierten Parameter. Datensatz sowie Trainingsalgorithmus sind üblicherweise nicht Teil des Modells.
- 23 Vgl. Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, „On the Dangers (...)
- 24 Vgl. Nikhil Garg et al., „Word embeddings quantify 100 years of gender and ethnic stereotypes“, Pro (...)
19In dem oben vorgeschlagenen ‚Lesehorizont‘ steckt für viele Anwendungen allerdings auch eine Gefahr: Wenn das Referenzkorpus schlecht dokumentiert ist bzw. so groß ist, dass es gar nicht sauber dokumentiert werden kann, ist es ebenso schlecht auszumachen, welche Biases von dem trainierten Modell übernommen wurden. Diese Kritik wurde von Bender et al. 2021 auf den Punkt gebracht23. Gefahren der Fortsetzung bzw. Verstärkung dieser Biases bestehen insbesondere bei Nutzer*innen moderner Natural Language Processing (NLP)-Anwendungen, bei denen oft gar nicht öffentlich ist, worauf diese trainiert wurden. Forschende sollten sich diesen Gefahren in ihren Arbeiten bewusst sein. Es gibt allerdings auch Gelegenheiten zum Erkenntnisgewinn: In Zusammenhang mit einfachen Word Embeddings wurde schon gezeigt, dass die Analyse von Biases in Teilen der verwendeten Referenzkorpora wichtige Erkenntnisse über gesellschaftliche Stereotype bestimmter Zeiten beleuchten können24.
- 25 „The immediate value of these models [d.h. Language Models] is often not to mimic individual langua (...)
- 26 „[w]hen research is organized by this sort of comparative purpose, the biases in data are not usual (...)
20In diese Richtung argumentiert auch Ted Underwood in seinem kürzlich verfassten Beitrag, indem er formuliert, dass der Wert der Sprachmodelle darin bestünde spezifische kulturelle Praktiken zu repräsentieren um sie so zu erforschen25. Und Underwood fährt fort, dass durch diesen Perspektivwechsel die Biases in den Daten eben gerade Forschungsgegenstand würden, weil sie Marker für kulturelle Praktiken seien. Für diesen komparativen Ansatz bräuchte es dann aber eben auch verschiedene Modelle basierend auf unterschiedlichen Datensätzen der jeweiligen Kontexte26. Die Idee wäre also beispielsweise, ein generelles Language Model auf einem großen Korpus der heutigen Zeit zu trainieren (pre-training) und es dann auf andere historische Kontexte zu spezialisieren (fine tuning). Problematisch kann daran sein, dass damit nicht gut dokumentiert bleibt, wieviel aus dem Korpus der heutigen Zeit mittransportiert wird, das dann nicht dem historischen Anwendungskontext entspricht. Gleichzeitig gibt es wohl heute nur wenige historische Kontexte, für die genügend große Textkorpora existieren, die ein Training ohne pre-training erlauben.
- 27 Vgl. David Lassner, Stephanie Brandl et al., „Domain-specific Word Embeddings With Structure Predic (...)
21Ein möglicher Mittelweg wäre hier, Word Embeddings auf einzelnen historischen Kontexten (sub-corpora) zu trainieren, die aber während des Trainings in Beziehung zueinander gesetzt werden. So kann eine weniger datenhungrige Methode verwendet werden, die keine undokumentierbar großen Trainingscorpora braucht, die hingegen trotzdem ermöglicht, die Repräsentation der verschiedenen Subcorpora zu vergleichen27.
Schluss
22Die Tiefe der mathematischen Kenntnisse, die zur Beherrschung des visuellen Instrumentariums notwendig ist, um neuartige literaturwissenschaftliche Erkenntnisse zu produzieren, ist mit der Ausbildung als Literaturwissenschaftlerin bzw. Literaturwissenschaftler kaum vereinbar. Wer kann schon sowohl Machine-Learning-Methoden vergleichen, auswählen und anwenden als auch die generierten Visualisierungen einordnen, analysieren und in literaturwissenschaftliche Interpretation umwandeln? Heutzutage sicherlich nur eine Handvoll Personen. Dennoch sind die hier dargelegten Methoden und Probleme nicht abschreckend gemeint. Vielmehr ging es uns darum, auf die Komplementarität unterschiedlicher Forschungsfelder und -methoden hinzuweisen, die herangezogen werden müssen, um aus dem visuellen Repertoire inhaltlich Wertvolles schöpfen zu können und die Literaturgeschichtsschreibung zu erneuern.
23Festzuhalten bleibt, dass selbst die komplexesten Machine-Learning-Methoden ohne menschliches Zutun (‚algorithmic criticism‘) wenig ertragreich sind, und dass es in der Forschung auf eine Mischung von close und distant reading ankommt. Es geht nicht darum, die Maschine von sich aus lesen zu lassen.
24Die vielleicht wichtigste Verschiebung, die der verbreitete Einsatz von Visualisierungsmethoden mit sich bringt, ist einerseits ein besseres Verständnis für Fragen der Textrepräsentation, andererseits für Methoden der Modellierung von Information. Im digitalen Kontext können zahlreiche Repräsentationen einer Textinstanz vorkommen: der Scan einer Buchseite, ihr Inhalt im Fließtextformat, eine annotierte Fassung in XML-TEI, ein Netzwerk, das Beziehungen abbildet, eine Tabelle, die Berechnungen zusammenfasst… all das sind Textrepräsentationen. Damit wird das Primat der Printseite ein Stück infrage gestellt. Des Weiteren haben wir hier Modellierung auf zwei Ebenen geschildert: die Modellierung von Informationen im Text (beispielsweise die Kennzeichnung des Vorkommens von Eigennamen) und die Modellierung der Art und Weise, wie diese Informationen behandelt werden (welche Erwähnungen als besonders wichtig betrachtet werden und wie das berechnet wird).
25Denn eins ist sicher: Für die quantitative Literaturwissenschaft ist Informationsmodellierung unabdingbar. Das heißt nicht, dass wir Germanistik-Studierende zu Informatikerinnen oder Informatiker ausbilden müssen. Das heißt aber wohl, dass ihnen die Prozessualität der Schritte im Laufe des Erkenntnisgewinns viel bewusster sein müsste als es ein klassisches literaturwissenschaftliches Curriculum ermöglicht. Aber damit werden neue Horizonte eröffnet. Die Mühe lohnt sich allemal.
Notes
1 Franco Moretti, Distant Reading, London/New York, Verso, 2013.
2 Vgl. Rabea Kleymann, Jan-Erik Stange, „Towards Hermeneutic Visualization in Digital Literary Studies“, Digital Humanities Quarterly, H. 15, Bd. 2., 2021 (URL: http://www.digitalhumanities.org/dhq/vol/15/2/000547/000547.html), Zugriff am 25.09.2022.
3 Vgl. Jacques Bertin, Sémiologie graphique. Les diagrammes, les réseaux, les cartes, Paris, Editions EHESS, 1967 (englische Übersetzung 1983, Madison, Univ. of Wisconsin Press).
4 Vgl. Isabelle Meirelles, „Visualizing information“, in: Julia Flanders, Fotis Jannidis (Hg.), The Shape of Data in the Digital Humanities. Modeling Texts and Text-based Resources, London, New York, Routledge, 2019, S. 167-177.
5 Franco Moretti, Graphs, Maps, Trees. Abstract Models for a Literary History, London/New York, Verso, 2005.
6 Vgl. Anne Baillot, „Die Krux mit dem Netz. Verknüpfung und Visualisierung bei digitalen Briefeditionen“, in: Quantitative Ansätze in den Literatur- und Geisteswissenschaften. Systematische und historische Perspektiven, hg. v. Andrea Albrecht, Toni Bernhard, Marcel Lepper, Sandra Richter, Marcus Willand, Berlin, De Gruyter, 2018, S. 355-370.
7 Vgl. https://vistorian.net/, https://hdlab.stanford.edu/palladio/, https://nodegoat.net/, https://gephi.org/, Zugriff am 25.09.2022.
8 Vgl. https://dracor.org/, Zugriff am 25.09.2022.
9 Am Beispiel der Räuber hier einsehbar: https://dracor.org/ger/schiller-die-raeuber#network (durch Anklicken von „Relations“ bzw. „Speech distribution“ Zugriff auf weitere Informationen), Zugriff am 25.09.2022.
10 Vgl. Anne Baillot, „Das Netzwerk als Kunstwerk“, in: Die Kommunikations-, Wissens-, und Handlungsräume der Henriette Herz (1764-1847), hg. v. Hannah Lotte Lund, Ulrike Schneider, Ulrike Wels, Göttingen, Vandenhoeck & Ruprecht, 2017, S. 45-53.
11 Vgl. https://voyant-tools.org/, Zugriff am 25.09.2022.
12 S. Cristian Felix, Steven L. Franconeri, Enrico Bertini, „Taking Word Clouds Apart: An Empirical Investigation of the Design Space for Keyword Summaries“, IEEE Transactions on Visualization and Computer Graphics, Bd. 24, 2018, doi: 10.1109/TVCG.2017.2746018; Marti Hearst et al., „An Evaluation of Semantically Grouped Word Cloud Designs“, IEEE Transactions on Visualization and Computer Graphics, 2019, doi: 10.1109/TVCG.2019.2904683; Dominique Boullier, Maxime Crepel, „La raison du nuage de tags : format graphique pour le régime de l’exploration ?“, Communication & langages, Bd. 160, 2009, doi: 10.4074/S0336150009002099, S. 119.
13 Stéfan Sinclair, Stan Ruecker, Milena Radzikowska, „Information Visualization for Humanities Scholars“, in: Literary studies in the digital age: An evolving anthology, hg. v. Kenneth M. Price, Ray Siemens, New York, Modern Language Association, 2013. doi: 10.1632/lsda.2013.6.
14 Vgl. https://fortext.net/tools/tools/catma: Evelyn Gius, Jan Christoph Meister, Malte Meister, Marco Petris, Christian Bruck, Janina Jacke, Mareike Schumacher, Dominik Gerstorfer, Marie Flüh und Jan Horstmann (2020): CATMA 6.2 (Version 6.2). Zenodo. DOI: 10.5281/zenodo.1470118; vgl. auch Jan Horstmann, Jan-Erik Stange, „Textvisualisierung. forTEXT. Literatur digital erforschen“ 2018, verfügbar unter: https://fortext.net/routinen/methoden/textvisualisierung, Zugriff am 03.07.2022.
15 Vgl. R. Kleymann, J.-E. Stange, „Towards Hermeneutic Visualization in Digital Literary Studies“, a.a.O.
16 Vgl. Johanna Drucker, „What do digital humanists want from visualization? “, 2016 https://www.youtube.com/watch?v=kdey5H2Nl9w, Zugriff am 03.07.2022; Dies., „Non-representational approaches to modeling interpretation in a graphical environment“, in Digital Scholarship in the Humanities, 33(2), 2018, S. 248-263.
17 Vgl. Stephen Ramsay, Reading Machines, Toward an Algorithmic Criticism, Urbana Champain, University of Illinois Press, 2011. Vgl. auch Marijn Koolen, Jasmijn Van Gorp, Jacco Van Ossenbrugen, „Toward a model for digital tool criticism: Reflection as integrative practice“, Digital Scholarship in the Humanities, 2018. DOI 10.1093/llc/fqy048.
18 Vgl. John Burrows, „‘Delta’: a measure of stylistic difference and a guide to likely authorship“, Literary and linguistic computing 17.3 (2002), S. 267-287.
19 Vgl. Fotis Jannidis, Gerhard Lauer, „Burrows Delta and its Use in German Literary History“, in: Matt Erlin, Lynne Tatlock (Hg.), Distant Readings. Topologies of German Culture in the Long Nineteenth Century, Rochester, Camden House 2014, S. 29-54 für eine Anwendung im Bereich der deutschen Literatur.
20 S. Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg S. Corrado, Jeff Dean, „Distributed representations of words and phrases and their compositionality“, Advances in neural information processing systems, 2013, S. 3111–3119; Jeffrey Pennington, Richard Socher, Christopher D. Manning, „Glove: Global vectors for word representation“, Proceedings of the 2014 conference on empirical methods in natural language processing (EMNLP), 2014, S. 1532–1543.
21 Vgl. Sinai Rusinek, Nitzan Gado, „Feeding a Gazetteer: Leveraging word embeddings for toponym mining“, Proceedings of the 5th ACM SIGSPATIAL International Workshop on Geospatial Humanities (GeoHumanities'21). Association for Computing Machinery, New York, NY, 2021, S. 28–35. https://doi.org/10.1145/3486187.3490202.
Im Kontext der Literaturwissenschaften hat sich James E. Dobson mit der Interpretation von Wortvektoren auseinandergesetzt, siehe „Vector hermeneutics: On the interpretation of vector space models of text“, Digital Scholarship in the Humanities, Volume 37, Issue 1, April 2022, S. 81–93. https://doi.org/10.1093/llc/fqab079
22 Vgl. Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, „BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding“, North American Chapter of the Association for Computational Linguistics Conference, 2019. (URL: https://aclanthology.org/N19-1423, Zugriff am 03.07.2022). Für die zugrundeliegende Architektur siehe Waswani et al. 2017.
23 Vgl. Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜“, Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Association for Computing Machinery, New York, NY, 2021, S. 610–623. (URL: https://doi.org/10.1145/3442188.3445922, Zugriff am 03.07.2022)
24 Vgl. Nikhil Garg et al., „Word embeddings quantify 100 years of gender and ethnic stereotypes“, Proceedings of the National Academy of Sciences, 115. Jg., Nr. 16, 2018, S. E3635-E3644.
25 „The immediate value of these models [d.h. Language Models] is often not to mimic individual language understanding, but to represent specific cultural practices (like styles or expository templates) so they can be studied and creatively remixed“. Ted Underwood, „Mapping the Latent Spaces of Culture“, Preprint, erscheint in Startwords, 2021 doi.org/10.17613/faaa-1r21, Zugriff am 03.07.2022.
26 „[w]hen research is organized by this sort of comparative purpose, the biases in data are not usually a reason to refrain from modeling – but a reason to create more corpora and train models that reflect a wider range of biases“, ebd.
27 Vgl. David Lassner, Stephanie Brandl et al., „Domain-specific Word Embeddings With Structure Prediction“, bei TACL in Kürze erscheinend.
Haut de pagePour citer cet article
Référence papier
Anne Baillot et David Lassner, « Von Graphen zu Word Embeddings – Zur Entwicklung des mathematischen und visuellen Instrumentariums der Literaturwissenschaft », Germanica, 71 | 2022, 191-203.
Référence électronique
Anne Baillot et David Lassner, « Von Graphen zu Word Embeddings – Zur Entwicklung des mathematischen und visuellen Instrumentariums der Literaturwissenschaft », Germanica [En ligne], 71 | 4e trimestre 2022, mis en ligne le 01 janvier 2025, consulté le 10 septembre 2026. URL : http://journals.openedition.org/germanica/19002 ; DOI : https://doi.org/10.4000/germanica.19002
Haut de pageDroits d’auteur
Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.
Haut de page




