Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset1. März 2023 · Q005723

Information Security Technology-Security Specification and Assessment Methods for Machine Learning Algorithms

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Auszug: Er beschreibt einen 2021 fertiggestellten chinesischen Standardentwurf, der Sicherheitsleitlinien für ML-Algorithmen und Verfahren zur Bewertung ihrer Cyberangriffsanfälligkeit vorsieht. Die konkreten Anforderungen und Prüfmethoden fehlen im Auszug; das Vorwort nennt beteiligte Organisationen und bittet bei Stellungnahmen um Hinweise auf relevante Patente.

Mittel

Der bereitgestellte Text ist nur ein Auszug aus der Übersetzung eines chinesischen Standardentwurfs, nicht der vollständige Bericht. Laut seiner Beschreibung soll der Entwurf Sicherheitsleitlinien für Entwickler maschineller Lernverfahren festlegen und Methoden zur Bewertung ihrer Anfälligkeit für Cyberangriffe bereitstellen. Der Entwurf wurde am 27. Juli 2021 fertiggestellt und zur Kommentierung vorgelegt.

Das Vorwort erklärt, dass der Text nach chinesischen Standardisierungsregeln ausgearbeitet und dem Nationalen Technischen Komitee für Informationssicherheitsstandardisierung (SAC/TC 260) vorgeschlagen beziehungsweise von diesem verwaltet wurde. Als Mitwirkende führt der Auszug zahlreiche staatliche und technische Einrichtungen, Hochschulen und Unternehmen auf, darunter Huawei, Baidu, Alibaba, Tencent und Megvii. Bei Rückmeldungen sollen bekannte einschlägige Patente mit Belegen genannt werden.

Der Text verweist für den weiteren Inhalt auf eine PDF-Fassung. Die eigentlichen Anforderungen und Bewertungsverfahren sowie etwaige Ergebnisse sind im bereitgestellten Auszug nicht enthalten.

Ausführlich lesen

Der bereitgestellte Text ist nur ein Auszug, kein vollständiger Bericht: Er enthält eine kurze Beschreibung und das Vorwort zu einem chinesischen Entwurf für einen nationalen Sicherheitsstandard zu maschinellen Lernverfahren. Dem Auszug zufolge soll der Entwurf Entwicklern Sicherheitsleitlinien bieten und Verfahren zur Bewertung der Anfälligkeit von ML-Algorithmen für Cyberangriffe festlegen. Er wurde am 27. Juli 2021 fertiggestellt und zur Kommentierung vorgelegt.

Laut Vorwort wurde der Entwurf nach den chinesischen Regeln für die Ausarbeitung von Standards erstellt und dem Nationalen Technischen Komitee für Informationssicherheitsstandardisierung (SAC/TC 260) vorgeschlagen beziehungsweise von diesem verwaltet. Als beteiligte Organisationen nennt der Text unter anderem staatliche und technische Einrichtungen, Universitäten sowie Unternehmen wie Huawei, Baidu, Alibaba, Tencent und Megvii. Außerdem enthält er eine lange Liste der genannten Verfasserinnen und Verfasser. Für Rückmeldungen sollen bekannte einschlägige Patente samt Belegen angegeben werden.

Der Auszug verweist auf chinesische und archivierte Onlinefassungen des Quelltexts und erklärt, dass der Rest der Übersetzung als PDF herunterzuladen sei. Daher sind weder die konkreten Sicherheitsanforderungen noch Bewertungsmethoden, Ergebnisse oder die vollständige Reichweite des Entwurfs in dem vorliegenden Text enthalten; Aussagen darüber lassen sich daraus nicht ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-M4-T07 Wenn KI-Labore verschiedener Staaten sich selbst überwachen und Angaben zu Cyberangriffen mit KI austauschen sollen: Welche überprüfbaren Mindestzusagen machen sie dafür, ohne Kundendaten oder ihre eigenen Modelle herauszugeben? Zum Beispiel feste Arten von Vorfällen, eine Frist für Meldungen und das Offenlegen der Ergebnisse von Angriffstests. Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 19 %Hintergrund, keine Belege
    • Luna 36 %einzelne zitierbare Belege
    • JEV 47 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 29 %Hintergrund, keine Belege
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 48 %Hintergrund, keine Belege

    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege
    • SF-F1-T06 Welche unabhängige Prüfung des Maßstabs selbst auf Verzerrung je nach Modellarchitektur, auf Sprachabhängigkeit und auf Empfindlichkeit für die Trainingsherkunft des prüfenden Modells veröffentlichen die Beteiligten, bevor ein gemeinsamer Cyber-Maßstab angenommen wird, und wer führt sie unabhängig von den Laboren durch, deren Modelle er prüft? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 25 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 21 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV 48 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra 46 %Hintergrund, keine Belege

  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 61 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %Hintergrund, keine Belege
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-P3-T03 Welche Rolle spielten Modelle der geprüften Modellfamilie, wenn überhaupt, beim Entwerfen, Durchführen oder Bewerten von Prüfungen oder Sicherheitsberichten, die Regierungen vorgelegt werden, und wird diese Rolle offengelegt? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV 56 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 86 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 55 %einzelne zitierbare Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 43 %Hintergrund, keine Belege

Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 53 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 21 %Hintergrund, keine Belege
    • Luna 43 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 24 %Hintergrund, keine Belege
    • Luna 34 %gleiches Oberthema, hilft nicht
    • JEV 40 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 41 %gleiches Oberthema, hilft nicht

    • SF-E2-T05 Welchen eigenen Rahmen für die Regelung von KI schlägt ein Staat über die Risiken und Maßnahmen hinaus vor, die er schon benannt hat, und worin unterscheidet er sich von den Vorschlägen der Labore? Gefragt wurde das zu China: zum Artikel von Minister Chen Yixin, im Vergleich mit OpenAIs Vorschlag für Standards und den vier Stufen möglicher Vereinbarungen im Essay „We Must Pace the Frontier“ von Anthropic-Chef Dario Amodei. Luna: Stufe 4 · 34 % · einzelne zitierbare Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 21 %nur am Rande erwähnt
    • Luna 43 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 34 %einzelne zitierbare Belege

    • SF-E3-T02 Welche Stelle eines Staates wäre das Gegenüber für Prüfungen vor der Veröffentlichung, also Tests auf akute Risiken? Gefragt wurde das zu China (Cyberspace-Verwaltung, Ministerium für Staatssicherheit oder eine neue Stelle) und zu den Prüfungen, die Anthropic-Chef Dario Amodei im Essay „We Must Pace the Frontier“ vorschlägt. Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 56 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →