Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset5. Dezember 2024 · Q002318

National Standard of the People's Republic of China: Cybersecurity Technology - Basic Safety Requirements for Generative Artificial Intelligence Services (Draft for Feedback)

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt einen chinesischen Standardentwurf mit grundlegenden Anforderungen an Trainingsdaten, Modelle und Sicherheitsmaßnahmen generativer KI sowie an deren Bewertung. Der Bericht behauptet, der Schwerpunkt liege auf der Verhinderung politisch unerwünschter Inhalte; der restliche Standard fehlt im Auszug, sodass konkrete Anforderungen und Verfahren nicht ersichtlich sind.

Mittel

Der bereitgestellte Bericht ist nur ein Auszug aus der englischen Übersetzung eines Entwurfs für einen chinesischen nationalen Standard zu Sicherheitsanforderungen für generative KI-Dienste. Der übrige Standard sei laut Bericht nur als PDF verfügbar; konkrete Anforderungen und Bewertungsverfahren sind hier daher nicht zu sehen.

Der Entwurf soll Anforderungen an Trainingsdaten, Modelle und Schutzmaßnahmen festlegen und Sicherheitsbewertungen beschreiben. Er gilt für Anbieter, die solche Bewertungen vornehmen, und dient der zuständigen Aufsichtsbehörde als Referenz. Der sichtbare Text definiert generative KI-Dienste als öffentliche Angebote zur Erzeugung von Text, Grafiken, Audio, Video und weiteren Inhalten. Anbieter können Organisationen oder Einzelpersonen sein; Trainingsdaten umfassen direkt für Vor- und Optimierungstraining genutzte Daten. Als normative Referenz nennt der Entwurf GB/T 25069-2022.

Der Bericht ordnet ein, dass der Standard zwar Cybersicherheitsfragen berührt, aber vor allem unerwünschte Inhalte verhindern solle, darunter Hassrede, Pornografie und Kritik am Machtmonopol der Kommunistischen Partei. Die Übersetzungsnotiz erklärt, „安全“ werde überwiegend als Schutz vor Unfällen und unvorhergesehenen Problemen verstanden. Diese Aussagen sind Einordnungen im Bericht; der kurze Auszug belegt nicht die Einzelheiten des vollständigen Standards.

Ausführlich lesen

Der bereitgestellte Bericht enthält nur einen Auszug aus einer englischen Übersetzung des Entwurfs eines chinesischen nationalen Standards zu grundlegenden Sicherheitsanforderungen für generative KI-Dienste. Der Bericht sagt ausdrücklich, dass der übrige Text nur als herunterladbare PDF verfügbar sei; die Anforderungen aus den späteren Abschnitten und mögliche Ergebnisse einer Sicherheitsbewertung sind daher in diesem Auszug nicht enthalten.

Laut dem einleitenden Kommentar soll der Entwurf die Sicherheit generativer KI-Dienste verbessern und behandelt auch Cybersicherheitsfragen. Der Bericht behauptet jedoch, der Schwerpunkt liege vor allem darauf, Inhalte zu verhindern, die die Kommunistische Partei als unerwünscht einstufe. Als Beispiele nennt er Pornografie, Mobbing, Hassrede, Verleumdung, Urheberrechtsverletzungen und Kritik am Machtmonopol der Partei. Das ist die Einordnung des Berichts, nicht eine im vorliegenden Standardauszug ausgeführte Begründung.

Der sichtbare Abschnitt zum Geltungsbereich erklärt, dass der Standard grundlegende Anforderungen an die Sicherheit von generativen KI-Diensten festlegt. Genannt werden die Sicherheit der Trainingsdaten, die Modellsicherheit und Sicherheitsmaßnahmen; außerdem soll er Anforderungen an Sicherheitsbewertungen enthalten. Er richtet sich an Dienstanbieter, die solche Bewertungen durchführen, und soll der zuständigen Aufsichtsbehörde als Referenz dienen.

Der Auszug verweist als normative Grundlage auf GB/T 25069-2022 zur Terminologie der Informationstechnologie-Sicherheit. Bei datierten Verweisen gilt dem Text zufolge nur die jeweilige angegebene Ausgabe; bei undatierten Verweisen die neueste Ausgabe einschließlich Änderungen. Als generative KI-Dienste definiert der Entwurf öffentliche Angebote, die mithilfe generativer KI Texte, Grafiken, Audio, Video oder andere Inhalte erzeugen. Dienstanbieter können Organisationen oder Einzelpersonen sein, die solche Dienste etwa über interaktive oder programmierbare Schnittstellen bereitstellen. Trainingsdaten umfassen alle Daten, die direkt als Eingabe für das Modelltraining dienen, einschließlich Vortraining und Optimierungstraining.

Eine Übersetzeranmerkung weist darauf hin, dass das chinesische Wort „安全“ sowohl mit „Sicherheit“ als auch mit „Schutz“ übersetzt werden kann. Die Übersetzung verwendet meist „safety“, weil der Standard nach Einschätzung der Übersetzenden vor allem Unfälle und unvorhergesehene Probleme verhindern wolle, statt vorsätzlichen Missbrauch oder Sabotage. Eine weitere Anmerkung besagt, dass die Autoren den Entwurf auf technischer Dokumentation zur KI-Sicherheit von SAC/TC260 aus dem Februar 2024 aufgebaut hätten. Da nur der Anfang des Standards vorliegt, lassen sich die konkreten Anforderungen, Bewertungsverfahren und die Tragweite dieser Einordnung hier nicht prüfen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 18 %Hintergrund, keine Belege
    • Luna 30 %einzelne zitierbare Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 40 %Hintergrund, keine Belege

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 26 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %Hintergrund, keine Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 32 %Hintergrund, keine Belege
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 54 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra 81 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 52 %einzelne zitierbare Belege
    • JEV 28 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 32 %Hintergrund, keine Belege
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 36 %Hintergrund, keine Belege

Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 57 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 43 %einzelne zitierbare Belege
    • JEV 38 %nur am Rande erwähnt
    • amos 32 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 33 %Hintergrund, keine Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-H3-T03 Welche verbindliche Meldepflicht hat ein Labor, wenn ein Modell, das zum Teil mit synthetischen Daten eines fremden Spitzenmodells trainiert wurde, eine schlechtere Ausrichtung zeigt, die grenzüberschreitend Schaden verursacht, und welches Recht hat die Regierung des Landes, aus dem die Daten stammen, den betroffenen Trainingsablauf zu prüfen, ohne an die Modellgewichte (die gelernten Parameter) zu kommen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 32 %einzelne zitierbare Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 22 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 45 %umfangreiche Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 42 %Hintergrund, keine Belege

    • SF-E2-T05 Welchen eigenen Rahmen für die Regelung von KI schlägt ein Staat über die Risiken und Maßnahmen hinaus vor, die er schon benannt hat, und worin unterscheidet er sich von den Vorschlägen der Labore? Gefragt wurde das zu China: zum Artikel von Minister Chen Yixin, im Vergleich mit OpenAIs Vorschlag für Standards und den vier Stufen möglicher Vereinbarungen im Essay „We Must Pace the Frontier“ von Anthropic-Chef Dario Amodei. Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
    • SF-E2-T08 Können zwei Staaten KI-Risiken für „politische Sicherheit“ und „gesellschaftliche Steuerung“ im selben technischen Kanal besprechen wie Cyber- und Militärrisiken, ohne dass eine Seite das politische System der anderen als das zu lösende Problem behandelt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 24 %nur am Rande erwähnt
    • Luna 38 %einzelne zitierbare Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 31 %gleiches Oberthema, hilft nicht

    • SF-E3-T02 Welche Stelle eines Staates wäre das Gegenüber für Prüfungen vor der Veröffentlichung, also Tests auf akute Risiken? Gefragt wurde das zu China (Cyberspace-Verwaltung, Ministerium für Staatssicherheit oder eine neue Stelle) und zu den Prüfungen, die Anthropic-Chef Dario Amodei im Essay „We Must Pace the Frontier“ vorschlägt. Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 42 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →