Concentrations of AI-Related Topics in Research: Natural Language Processing
Zusammenfassung
Kurz
Der Bericht zeigt anhand von 397 Forschungsclustern aus einer Momentaufnahme von 2021, dass NLP-Forschung überwiegend der Informatik zugeordnet ist, aber auch in Sozialwissenschaften, Mathematik und anderen Bereichen vorkommt. Er illustriert unterschiedliche NLP-Anteile und Wachstum anhand von vier Clustern; die Cluster-IDs sind nach einer späteren Aktualisierung nicht mehr direkt übertragbar, und beim Mathematik-Beispiel weicht eine ID intern ab.
Mittel
Der Bericht wertet eine Momentaufnahme der CSET-„Map of Science“ vom 29. Juli 2021 aus. Er betrachtet 397 Forschungscluster, die definierte Mindestanteile an KI- und NLP-Arbeiten aufweisen und stärker auf NLP als auf Computer Vision oder Robotik konzentriert sind. 89 Prozent dieser Cluster liegen in der Informatik, 10 Prozent in den Sozialwissenschaften; die übrigen verteilen sich auf Geisteswissenschaften, Mathematik und Medizin. In 98 Clustern sind mehr als 75 Prozent der Arbeiten NLP-bezogen, was der Bericht als Hinweis auf einen klaren NLP-Schwerpunkt deutet.
Vier Beispiele zeigen die Bandbreite: ein stark auf maschinelle Übersetzung und Worteinbettungen ausgerichtetes Informatik-Cluster mit prognostiziertem extremem Wachstum; ein Informatik-Cluster mit knapp über 25 Prozent NLP-Arbeiten und negativem Wachstum im letzten betrachteten Jahr; ein mathematisches Cluster mit mehr als 70 Prozent NLP-Anteil; sowie ein sozialwissenschaftliches Cluster, das sich unter anderem mit Gebärdensprachen befasst und im Vorjahr um 47 Prozent wuchs. Als zentrale Arbeiten führt der Bericht jeweils die innerhalb eines Clusters stark zitierten Publikationen an.
Die Zahlen beziehen sich auf die damalige Clusterbildung. CSET aktualisierte die Map im August 2021 und vergab neue IDs. Außerdem widerspricht sich der Bericht beim Mathematik-Beispiel: Im Text steht Cluster 26223, die Überschrift der Kernarbeiten nennt 26221.
Ausführlich lesen
Der Bericht untersucht, wie sich Forschung zu natürlicher Sprachverarbeitung (Natural Language Processing, NLP) auf Forschungscluster in der „Map of Science“ verteilt. Grundlage ist eine Momentaufnahme vom 29. Juli 2021. Als NLP-Cluster gelten 397 Cluster mit mindestens 25 Prozent KI-bezogenen Arbeiten und mindestens 25 Prozent NLP-Arbeiten, wobei der NLP-Anteil höher ist als der Anteil zu Computer Vision oder Robotik. Der Bericht beschreibt damit eine anhand dieser Schwellenwerte gebildete Auswahl, nicht sämtliche Forschung, die NLP nutzt.
Die Zuordnung zu breiten Forschungsgebieten zeigt eine starke Konzentration in der Informatik: 352 Cluster beziehungsweise 89 Prozent der NLP-Cluster liegen dort. 39 Cluster (10 Prozent) entfallen auf Sozialwissenschaften; Geisteswissenschaften, Mathematik und Medizin stellen zusammen sechs Cluster und jeweils weniger als ein Prozent. Zugleich unterscheiden sich die Cluster darin, wie stark sie auf NLP ausgerichtet sind: Bei 98 von 397 liegt der NLP-Anteil über 75 Prozent, bei 144 zwischen 50 und 75 Prozent, bei 150 zwischen 25 und 50 Prozent. Fünf Cluster liegen im Bereich über 10 bis einschließlich 25 Prozent. Der Bericht deutet den hohen Anteil in etwa einem Viertel der Cluster als Hinweis darauf, dass NLP dort Schwerpunkt und nicht bloß ergänzende Methode ist.
Zur Veranschaulichung betrachtet der Bericht vier Cluster und nennt jeweils zentrale Arbeiten. Als solche „Kernarbeiten“ gelten Veröffentlichungen mit starken Zitierverbindungen innerhalb des jeweiligen Clusters. Das Cluster 60531 umfasst laut Bericht 727 Arbeiten, von denen 95 Prozent NLP-bezogen sind. Inhaltlich geht es unter anderem um maschinelle Übersetzung, Worteinbettungen, Spracherkennung und NLP-Methoden. Für dieses Informatik-Cluster wird extremes Wachstum prognostiziert, definiert als durchschnittliches erwartetes Wachstum von mindestens acht Prozent in den folgenden drei Jahren. Drei Viertel der Arbeiten hatten Länderangaben; unter den Arbeiten mit verfügbaren Länderangaben entfielen zwei Fünftel auf die USA und weniger als ein Viertel auf China.
Das Informatik-Cluster 47196 weist laut Bericht bei 670 Arbeiten einen NLP-Anteil von knapp über 25 Prozent auf und behandelt unter anderem Data Mining, Wissensextraktion und linguistische Analyse. Weniger als ein Drittel seiner Arbeiten sei zugleich KI-bezogen. Das Cluster werde von Indien angeführt und habe im letzten betrachteten Jahr weniger neue Arbeiten als im Vorjahr veröffentlicht. Als Beispiel aus einem nicht-informatischen MINT-Fach beschreibt der Bericht das Mathematik-Cluster 26223: Mehr als 70 Prozent seiner 1.507 Arbeiten seien NLP-bezogen. Das 14 Jahre alte Cluster werde von den USA dominiert, sei im Vorjahr um etwa vier Prozent gewachsen und es werde kein extremes Wachstum prognostiziert. Ein sozialwissenschaftliches Beispiel ist Cluster 3916 mit 4.749 Arbeiten, von denen mehr als die Hälfte NLP-Arbeiten seien. Es umfasse Psychologie, Kommunikation und Syntax mit einem erkennbaren Schwerpunkt auf Gebärdensprachenforschung; das Wachstum im Vorjahr betrage 47 Prozent, die USA führten das Cluster an.
Die Ergebnisse sind an die damalige Clusterbildung und den Stichtag gebunden. Der Bericht weist darauf hin, dass CSET die Map of Science im August 2021 aktualisierte und dabei stabilere Cluster sowie neue IDs einführte; die hier genannten Cluster-IDs stimmen deshalb nicht mit denen der aktualisierten Oberfläche überein. Zudem nennt der Abschnitt zum Mathematik-Beispiel Cluster 26223, während die Überschrift der zugehörigen Liste von Kernarbeiten „RC 26221“ angibt. Der Bericht klärt diese interne Abweichung nicht auf. Die Beispiele und Zahlen erlauben daher keine sichere Zuordnung dieser IDs zur heutigen Clusterkarte.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Einordnung betrifft nur die drei angegebenen Sammelfragen; Teilfragen wurden keine genannt. Lunas Stufen- und Anteilsangaben wurden nicht übernommen, weil das Schema sie nicht vorsieht. Die Zusammenfassung ist inhaltlich korrekt, auch die Hinweise auf die Cluster-ID-Abweichung (26223 im Text, 26221 in der Überschrift) und die Aktualisierung der Map im August 2021.
Im Bericht, aber nicht in der Zusammenfassung
- Bots auf Social Media als Beispiel für NLP-Anwendungen und ihre mögliche Rolle bei Desinformation und Trolling
- Die Methodenbeispiele Sentiment-Analyse und Topic Modelling
- Länderverteilung der Kernarbeiten im Cluster mit dem höchsten NLP-Anteil (USA etwa zwei Fünftel, China unter einem Viertel)
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 63 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV 45 %gleiches Oberthema, hilft nicht
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 50 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 68 %Hintergrund, keine Belege
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 43 %nur am Rande erwähnt
- amos 36 %nur am Rande erwähnt
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv