Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai31. Januar 2023 · Q007091

New AI classifier for indicating AI-written text

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI stellte einen Klassifikator vor, der KI-verfasste Texte erkennen sollte, räumte aber geringe Trefferquote und zahlreiche Einschränkungen ein: In einer englischen Auswertung erkannte er 26 Prozent der KI-Texte und markierte 9 Prozent menschlicher Texte fälschlich als KI-generiert. Laut vorangestelltem Hinweis wurde das Werkzeug am 20. Juli 2023 wegen seiner niedrigen Genauigkeit eingestellt; OpenAI forsche an besseren Herkunfts- und Kennzeichnungsverfahren.

Mittel

Der Bericht beschreibt OpenAIs damaligen Klassifikator zur Einschätzung, ob Texte von Menschen oder KI-Systemen stammen. OpenAI sah mögliche Einsatzfelder darin, falsche Urheberbehauptungen bei KI-Texten zu erschweren, warnte aber, dass KI-Texte nicht zuverlässig vollständig erkannt werden können.

In einer englischen Testauswertung erkannte das Werkzeug 26 Prozent der KI-Texte als wahrscheinlich KI-generiert. 9 Prozent der menschlich verfassten Texte wurden fälschlich so markiert. Laut OpenAI stieg die Zuverlässigkeit meist mit der Textlänge; für die Webanwendung wurde eine hohe Konfidenzschwelle gesetzt. Trainiert wurde das Modell anhand gleich thematisierter Paare menschlicher und von verschiedenen Sprachmodellen erzeugter Texte.

OpenAI riet davon ab, den Klassifikator als alleinige Entscheidungsgrundlage zu verwenden. Besonders kurze Texte, andere Sprachen, Code und Inhalte außerhalb der Trainingsdaten seien problematisch; auch lange Texte könnten falsch eingestuft werden. Vorhersehbare Texte seien schwer zuzuordnen, und Bearbeitungen könnten die Erkennung umgehen. Der Bericht beschreibt außerdem Gespräche mit Lehrkräften und bittet Betroffene um Rückmeldungen. Ein vorangestellter Hinweis ergänzt: Seit dem 20. Juli 2023 ist der Klassifikator wegen seiner niedrigen Genauigkeit nicht mehr verfügbar. OpenAI erforsche bessere Herkunftsnachweise für Text und Kennzeichnungsmechanismen für KI-generierte Audio- und Bildinhalte.

Ausführlich lesen

Der Bericht stellt einen von OpenAI entwickelten Klassifikator vor, der englische Texte danach einordnet, ob sie wahrscheinlich von Menschen oder KI-Systemen verfasst wurden. OpenAI zufolge könnte ein solches Werkzeug helfen, falsche Behauptungen über die Urheberschaft von KI-Texten zu erschweren, etwa im Zusammenhang mit automatisierten Desinformationskampagnen, akademischem Fehlverhalten oder Chatbots, die sich als Menschen ausgeben. Der Bericht betont jedoch, dass sich KI-Texte nicht zuverlässig vollständig erkennen lassen.

In einer Auswertung mit einer englischsprachigen „Challenge“-Testmenge erkannte der Klassifikator 26 Prozent der KI-Texte als wahrscheinlich KI-generiert. Zugleich stufte er 9 Prozent der von Menschen geschriebenen Texte fälschlich als KI-Texte ein. OpenAI berichtet, die Zuverlässigkeit nehme gewöhnlich mit der Textlänge zu und sei bei neueren KI-Systemen höher als bei einem früheren Klassifikator. Das Werkzeug wurde öffentlich und kostenlos als unfertige Version bereitgestellt, um Rückmeldungen zu sammeln. OpenAI bezeichnete weitere Forschung und verbesserte Verfahren als geplant.

Laut Bericht wurde das Modell auf Paaren menschlicher und KI-generierter Texte zu denselben Themen trainiert. Menschliche Texte stammten aus Quellen, die OpenAI als menschlich verfasst einschätzte, darunter Vortrainingsdaten und menschliche Antworten auf InstructGPT-Prompts. Für die jeweiligen Prompts erzeugten verschiedene Sprachmodelle Antworten. In der Webanwendung wurde die Konfidenzschwelle so angepasst, dass Texte nur bei hoher Sicherheit als wahrscheinlich KI-generiert markiert wurden und die Zahl falscher positiver Ergebnisse niedrig blieb.

Der Bericht rät ausdrücklich davon ab, den Klassifikator als maßgebliche Entscheidungsgrundlage zu verwenden; er solle höchstens weitere Prüfmethoden ergänzen. Bei Texten unter 1.000 Zeichen sei er besonders unzuverlässig, doch auch längere Texte könne er falsch einordnen. Menschliche Texte könnten zudem mit hoher Zuversicht als KI-generiert erscheinen. Empfohlen werde die Nutzung nur für Englisch; bei anderen Sprachen und bei Code sei die Leistung deutlich schlechter beziehungsweise unzuverlässig. Vorhersehbare Inhalte ließen sich kaum zuordnen, und Bearbeitungen könnten KI-Texte der Erkennung entziehen. Außerdem könnten neuronale Klassifikatoren bei Texten außerhalb ihrer Trainingsdaten sehr sicher falsch liegen. Ob Erkennung langfristig gegenüber solchen Umgehungen im Vorteil sei, sei laut Bericht unklar.

OpenAI beschreibt Gespräche mit US-amerikanischen Lehrkräften und ruft Betroffene wie Lehrkräfte, Eltern und Lernende zu Rückmeldungen auf. Zugleich weist ein vorangestellter Hinweis darauf hin, dass der Klassifikator seit dem 20. Juli 2023 wegen seiner niedrigen Genauigkeit nicht mehr verfügbar ist. OpenAI zufolge werde an Rückmeldungen, besseren Verfahren zur Herkunftsbestimmung von Texten und Mechanismen zur Kennzeichnung KI-generierter Audio- und Bildinhalte gearbeitet.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen; die mittlere Fassung gibt den Bericht treu wieder, die Mängel betreffen vor allem die kurze Fassung. Die Stufen 4 und 3 aus Lunas Einordnung wurden unabhängig neu bewertet, ihre Anteilswerte nicht geprüft.

Im Bericht, aber nicht in der Zusammenfassung

  • Empfehlung, den Klassifikator nicht als alleiniges Entscheidungswerkzeug zu nutzen und nur für englische Texte einzusetzen
  • Die zentralen Einschränkungen wie kurze Texte, Code, vorhersehbare Texte und Umgehung durch Bearbeitung
  • Der Vergleich mit dem früheren Klassifikator, der bei neueren KI-Systemen deutlich weniger zuverlässig war
  • Das Trainingsverfahren mit gepaarten menschlichen und KI-Texten zum gleichen Thema
  • Die Gespräche mit Lehrkräften und die Bitte um Rückmeldung von Betroffenen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 35 %einzelne zitierbare Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 33 %einzelne zitierbare Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 43 %gleiches Oberthema, hilft nicht
    • JEV 30 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 39 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 50 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 42 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 41 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 18 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 45 %umfangreiche Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 49 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 22 %einzelne zitierbare Belege
    • Luna 55 %einzelne zitierbare Belege
    • JEV 46 %umfangreiche Belege
    • amos 31 %beantwortet teilweise oder widerspricht
    • SubQ 35 %beantwortet direkt und ausführlich
    • drex 40 %beantwortet direkt und ausführlich
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →