Preserving languages for the future
Zusammenfassung
Kurz
Der Bericht beschreibt ein isländisch-amerikanisches Vorhaben, GPT‑4 mithilfe menschlicher Rückmeldungen im Isländischen zu verbessern und damit möglicherweise auch anderen ressourcenarmen Sprachen zu helfen. Er berichtet von ersten Fortschritten, hält aber fest, dass das Modell weiterhin Fehler macht und nach einer Trainingsrunde Verbesserungsbedarf bestand; Anwendungen wie Embla und isländische Chatbots werden als Möglichkeiten genannt, nicht als umfassend belegte Erfolge.
Mittel
Der Bericht schildert ein gemeinsames Vorhaben Islands und OpenAIs, GPT‑4 für Isländisch zu verbessern und dabei möglicherweise Ansätze für andere Sprachen mit wenigen digitalen Daten zu entwickeln. Als Hintergrund nennt er die Sorge, dass Digitalisierung und die starke Nutzung des Englischen die Stellung des Isländischen gefährden könnten. Die Sprache gilt den Beteiligten als Teil des kulturellen Erbes und der nationalen Identität.
Ein Team aus 40 Freiwilligen trainierte GPT‑4 laut Artikel mit „Reinforcement Learning from Human Feedback“: Testpersonen wählten aus vier Antworten die beste und überarbeiteten sie. Der Bericht behauptet, dass dafür 100 Beispiele genügten, während ein früherer Feinabstimmungsversuch mit 300.000 isländischen Beispielen für GPT‑3 enttäuschend ausgefallen sei. Beispiele zeigen Verbesserungen, aber auch fortbestehende Grammatikfehler, unbeholfene Übersetzungen und kulturelle Fehlleistungen. Nach einer Runde sei weitere Arbeit nötig gewesen.
Als mögliche Anwendungen nennt der Text die isländische Sprachassistentin Embla und isländischsprachige Firmen-Chatbots. Diese werden als Zukunftsmöglichkeiten dargestellt. Eine umfassende unabhängige Prüfung der Leistung oder ein Nachweis, dass sich das Verfahren bereits auf andere Sprachen übertragen lässt, enthält der Bericht nicht.
Ausführlich lesen
Der Bericht „Preserving languages for the future“ beschreibt eine Zusammenarbeit zwischen Island und OpenAI, bei der GPT‑4 für bessere Unterstützung des Isländischen angepasst werden soll. Als Ausgangslage nennt der Artikel die Sorge, dass die zunehmende Digitalisierung und die starke Nutzung von Englisch die Stellung des Isländischen schwächen könnten. Die Regierung fördere die Entwicklung isländischer Begriffe für neue Ideen, statt einfach Fremdwörter zu übernehmen. Der Bericht stellt die Sprache als wichtigen Teil des kulturellen Erbes und der nationalen Identität dar.
Die Initiative ging laut Artikel auf Präsident Guðni Th. Jóhannesson zurück. Beteiligt waren unter anderem das gemeinnützige Sprachzentrum Almannarómur und das Sprachtechnologieunternehmen Miðeind. Das erklärte Ziel war zweifach: GPT‑4 sollte im Isländischen leistungsfähiger werden, und die dabei erarbeiteten Methoden sollten möglicherweise auch anderen Sprachen mit wenigen digitalen Trainingsdaten nützen. Almannarómurs Geschäftsführerin betont im Bericht, dass Sprachdaten und lokale Software allein nicht ausreichen; die Sprache müsse auch in den alltäglichen Anwendungen präsent sein. Sie verbindet das Vorhaben außerdem mit kultureller Bewahrung und wirtschaftlichen Chancen.
Der Artikel erklärt die Schwierigkeiten mit dem Ungleichgewicht der Trainingsdaten: OpenAIs Modelle seien überwiegend mit Texten in Englisch und anderen großen Sprachen trainiert, weshalb sie kleinere Sprachen weniger gut beherrschten. Als Beispiele führt der Bericht fehlerhafte oder kulturell unpassende Antworten früherer Modelle an. GPT‑4 erkennt etwa den isländischen Namen von Donald Duck korrekt, macht laut Artikel aber weiterhin Grammatikfehler, verwendet unbeholfene Übersetzungen und verfehlt kulturelle Bezüge. Beispiele zu Fragen über das isländische Parlament und das Staatsoberhaupt sollen zudem zeigen, dass die Antwort vom verwendeten Prompt und der Sprache abhängen kann; die dort genannten Angaben sind ausdrücklich auf 2021 bezogen.
Zur Verbesserung stellte Miðeinds Geschäftsführer ein Team von 40 Freiwilligen zusammen. Es nutzte „Reinforcement Learning from Human Feedback“ (RLHF): Testpersonen erhielten jeweils vier Modellantworten, wählten die beste aus und überarbeiteten sie zu einer idealen Antwort. Diese Rückmeldungen dienten anschließend zum weiteren Training. Der Bericht kontrastiert dies mit einem früheren Versuch, ein GPT‑3-Modell anhand von 300.000 isländischen Beispielen feinzujustieren, dessen Ergebnisse enttäuschend gewesen seien. Für RLHF seien hingegen 100 Beispiele ausreichend gewesen, so die Darstellung des Artikels. Daraus leitet er ab, dass dieses Vorgehen für ressourcenarme Sprachen leichter nachzuahmen sein könnte.
Der Bericht sagt zugleich, dass nach einer abgeschlossenen RLHF-Runde noch Verbesserungsbedarf bestand. Ein Beispiel zur Grammatikprüfung einer Antwort über Babys, die draußen im Kinderwagen schlafen, zeigt eine korrigierte Fassung. Als mögliche Anwendungen nennt der Artikel die isländische Sprachassistentin Embla sowie isländischsprachige Chatbots für Unternehmen. Diese Möglichkeiten werden als erwartete Folgen der Arbeit beschrieben, nicht als nachgewiesene Ergebnisse einer langfristigen Nutzung. Der Text liefert keine umfassende unabhängige Evaluation, keine Angaben zur tatsächlichen Leistung im breiten Alltagsgebrauch und keinen Beleg dafür, dass die Methode bereits für andere Sprachen funktioniert. Seine Aussagen beruhen vor allem auf Projektbeschreibung, ausgewählten Beispielen und Zitaten der Beteiligten.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat zwei Zusammenfassungen (kurz und mittel) geliefert; geprüft wurde vor allem die mittlere, die auch die kurze inhaltlich trägt und nichts erfindet. Die Anteilswerte in Lunas Einordnung wurden nicht übernommen, da die Skala nach dem Bericht bewertet werden sollte. Teilfragen waren keine angegeben.
Im Bericht, aber nicht in der Zusammenfassung
- Die Partnerschaft geht auf eine Initiative von Präsident Guðni Th. Jóhannesson zurück und entstand mit Unterstützung privater Unternehmen.
- Almannarómur und dessen Geschäftsführerin Jóhanna Vigdís Guðmundsdóttir mit der Sorge vor einer KI-Kluft und dem Ziel gleicher Wettbewerbsbedingungen.
- Das Language Planning Department, das isländische Begriffe prägt (z. B. tölva), und die Bedeutung der Sprache für die nationale Identität.
- Die Vergleichsbeispiele (Donald Duck, GPT-3 und ChatGPT falsch, GPT-4 richtig) und der Hinweis, dass GPT-4 trotz Verbesserungen noch Übersetzungsdeutsch und falsches kulturelles Wissen zeigt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 33 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 39 %einzelne zitierbare Belege
- JEV 30 %einzelne zitierbare Belege
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 25 %gleiches Oberthema, hilft nicht
- JEV 65 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 41 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 56 %einzelne zitierbare Belege
- JEV 48 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 48 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 58 %einzelne zitierbare Belege
- JEV 63 %einzelne zitierbare Belege
- amos 23 %Hintergrund, keine Belege
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung Hintergrund, keine Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 51 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv