Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai28. Mai 2020 · Q005758

Language models are few-shot learners

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Auszug berichtet, GPT‑3 habe ohne aufgabenspezifisches Fine-Tuning bei vielen Aufgaben mit wenigen Beispielen gute Leistungen gezeigt, zugleich aber bei bestimmten Datensätzen und wegen möglicher Probleme mit Web-Trainingsdaten Schwierigkeiten gehabt. Er enthält nur die Zusammenfassung, Autorenangaben und Bildunterschriften; die Ergebnisse sind daher Aussagen der Autoren, nicht unabhängig geprüfte Befunde.

Mittel

Der bereitgestellte Text ist ein Auszug aus der Zusammenfassung des Berichts „Language models are few-shot learners“ von 2020. Er beschreibt die Untersuchung von GPT‑3, einem Sprachmodell mit 175 Milliarden Parametern, das laut Text ohne Fine-Tuning oder Gradientenschritte anhand von Texteingaben und wenigen Beispielen Aufgaben bearbeiten sollte.

Die Autoren berichten von guten Ergebnissen unter anderem bei Übersetzung, Fragenbeantwortung und Lückentests sowie bei einzelnen Aufgaben wie Buchstabenfolgen entwirren, neue Wörter verwenden und dreistellig rechnen. Zugleich habe GPT‑3 bei manchen Datensätzen Schwierigkeiten gezeigt; bei anderen seien methodische Probleme durch das Training mit großen Web-Korpora aufgetreten. Der Auszug sagt außerdem, menschliche Bewertende hätten erzeugte Nachrichtenartikel oft nur schwer von menschlich geschriebenen unterscheiden können. Die Autoren kündigen eine Diskussion gesellschaftlicher Auswirkungen an.

Es liegt nur die Zusammenfassung mit Autorenangaben und Bildunterschriften vor. Einzelheiten zum Vorgehen, Zahlen zu den Ergebnissen und die angekündigte Diskussion fehlen; die Befunde werden hier als Aussagen der Autoren wiedergegeben.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug aus der Zusammenfassung des 2020 veröffentlichten Berichts „Language models are few-shot learners“, ergänzt um Autorenangaben und Bildunterschriften. Er beschreibt GPT‑3 und die Frage, ob größere Sprachmodelle neue Aufgaben anhand weniger Beispiele oder einfacher Anweisungen bearbeiten können, ohne dafür eigens nachtrainiert zu werden.

Laut Auszug benötigen herkömmliche Verfahren mit Vortraining und anschließendem Fine-Tuning meist Tausende oder Zehntausende aufgabenspezifische Beispiele. Die Autoren berichten, sie hätten GPT‑3 mit 175 Milliarden Parametern trainiert – laut Text zehnmal so viele wie jedes zuvor veröffentlichte nicht-sparse Sprachmodell – und seine Leistung im Few-shot-Szenario untersucht. Für die Aufgaben seien weder Gradientenschritte noch Fine-Tuning vorgenommen worden; Aufgabe und Beispiele seien ausschließlich durch Texteingaben vermittelt worden.

Der Auszug zufolge erzielte GPT‑3 gute Ergebnisse bei mehreren Sprachverarbeitungsaufgaben, darunter Übersetzung, Beantwortung von Fragen und Lückentests. Auch bei einigen Aufgaben, die unmittelbares Schlussfolgern oder Anpassung an neue Bereiche erfordern, habe das Modell Leistungen gezeigt, etwa beim Entwirren von Buchstabenfolgen, beim Verwenden eines neuartigen Wortes in einem Satz und bei dreistelliger Arithmetik. Die Autoren geben zugleich an, dass GPT‑3 bei manchen Datensätzen weiterhin Schwierigkeiten hatte und bei anderen methodische Probleme im Zusammenhang mit dem Training auf großen Web-Korpora auftraten.

Außerdem berichtet der Auszug, GPT‑3 habe Nachrichtenartikel erzeugen können, die menschliche Bewertende nur schwer von menschlich verfassten Artikeln unterschieden. Die Autoren kündigen eine Diskussion der gesellschaftlichen Auswirkungen dieses Befunds und von GPT‑3 allgemein an.

Der vorliegende Quelltext enthält jedoch nur die Zusammenfassung, Autorenlisten und drei Bildunterschriften; Vorgehensdetails, Messwerte, konkrete Einschränkungen und die angekündigte gesellschaftliche Diskussion sind darin nicht ausgeführt. Die genannten Ergebnisse sind daher als Aussagen der Berichtszusammenfassung wiedergegeben, nicht als unabhängig überprüfte Befunde.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 30 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 31 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 50 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 41 %Hintergrund, keine Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →