Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
euohne Datum · Q001505

Drawing-up a General-Purpose AI Code of Practice

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht schildert die Entstehung des freiwilligen GPAI-Verhaltenskodex, der Anbieter bei der Umsetzung der Transparenz-, Urheberrechts- und Risikopflichten aus dem EU-KI-Gesetz unterstützen soll. Knapp 1.000 Beteiligte wirkten laut Bericht an mehreren Entwurfsrunden mit; parallel entstand nach Konsultationen eine Vorlage zur Veröffentlichung von Trainingsdaten-Zusammenfassungen. Der Text konzentriert sich auf Ablauf und Zeitplan und beschreibt die konkreten Kodexregeln nicht im Detail.

Mittel

Der Bericht erklärt, wie der Verhaltenskodex für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) entstand und welchen Zweck er erfüllt. Das EU-KI-Gesetz verpflichtet Anbieter unter anderem zu Transparenz- und urheberrechtlichen Maßnahmen; bei Modellen mit möglichen systemischen Risiken sollen Anbieter Risiken bewerten und mindern. Der Kodex erläutert diese Regeln und soll freiwillig bei ihrer Einhaltung helfen. Sie gelten laut Bericht seit dem 2. August 2025.

Das Europäische KI-Büro begleitete den Prozess, der von unabhängigen Fachleuten geleitet wurde. Knapp 1.000 Beteiligte wirkten in vier thematischen Arbeitsgruppen und mehreren Entwurfsrunden mit. Dazu gehörten Anbieter, Branchenverbände, Zivilgesellschaft, Rechteinhaber, Wissenschaft und Fachleute. Modellanbieter nahmen zusätzlich an eigenen Workshops teil; Mitgliedstaaten und internationale öffentliche Stellen waren ebenfalls eingebunden.

Parallel erarbeitete das KI-Büro eine Vorlage für die öffentliche Zusammenfassung von Trainingsdaten. Eine breitere Konsultation erhielt laut Bericht mehr als 430 Antworten. Die Kommission nahm die Vorlage im Juli 2025 an. Die Zeitleiste führt über mehrere Entwürfe und Plenarsitzungen bis zur Übermittlung der endgültigen Kodexfassung am 10. Juli und ihrer Billigung durch Kommission und KI-Ausschuss am 1. August 2025. Der Bericht beschreibt vor allem das Verfahren; die konkreten Regeln und ihre Wirkung führt er nicht detailliert aus.

Ausführlich lesen

Der Bericht beschreibt, wie der Verhaltenskodex für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) ausgearbeitet wurde und welche Rolle er im Rahmen des EU-KI-Gesetzes spielen soll. GPAI-Modelle können laut Bericht viele verschiedene Aufgaben übernehmen und bilden die Grundlage zahlreicher KI-Systeme in der EU. Besonders leistungsfähige oder weit verbreitete Modelle könnten systemische Risiken mit sich bringen. Das KI-Gesetz sieht für ihre Anbieter unter anderem Transparenz- und urheberrechtliche Pflichten vor; Anbieter von Modellen mit möglichen systemischen Risiken sollen diese Risiken bewerten und mindern. Die einschlägigen Regeln gelten dem Bericht zufolge seit dem 2. August 2025. Der Kodex erläutert diese Anforderungen und soll Unternehmen freiwillig bei der Einhaltung unterstützen.

Die Ausarbeitung wurde vom Europäischen KI-Büro begleitet und von unabhängigen Fachleuten geleitet. Der Bericht nennt knapp 1.000 Beteiligte, darunter Vertreterinnen und Vertreter der EU-Mitgliedstaaten sowie europäische und internationale Beobachter. Der Prozess begann mit einer Auftaktveranstaltung am 30. September. Anschließend arbeiteten vier thematische Gruppen in mehreren virtuellen Entwurfsrunden. Teilnehmende konnten während der Sitzungen oder innerhalb einer zweiwöchigen Frist schriftlich Stellung nehmen. Zu den einbezogenen Gruppen zählten Modellanbieter, nachgelagerte Anbieter, Branchenverbände, Zivilgesellschaft, Rechteinhaber, Wissenschaft und unabhängige Fachleute. Modellanbieter erhielten zusätzlich eigene Workshops. Das KI-Büro koordinierte die Gespräche und dokumentierte deren Ergebnisse; die Mitgliedstaaten waren über den KI-Ausschuss eingebunden. Öffentliche Stellen und Behörden aus anderen Weltregionen konnten als Beobachter teilnehmen.

Parallel zum Kodex entwickelte das KI-Büro eine Vorlage für eine hinreichend detaillierte öffentliche Zusammenfassung der Trainingsdaten, die Anbieter nach Artikel 53 Absatz 1 Buchstabe d des KI-Gesetzes veröffentlichen müssen. Für eine breitere Konsultation zu GPAI gingen laut Bericht mehr als 430 Antworten ein. Die Vorlage steht demnach in engem Zusammenhang mit den Transparenz- und Urheberrechtsanforderungen des Kodex. Weitere Rückmeldungen kamen von Teilnehmenden des Kodex-Verfahrens sowie aus Gesprächen mit einer Untergruppe des KI-Ausschusses und dem Europäischen Parlament. Die Kommission nahm die Vorlage im Juli 2025 an.

Die aufgeführte Zeitleiste reicht von Dezember 2024 bis August 2025: Sie nennt mehrere Entwurfsfassungen, Arbeitsgruppentreffen, Workshops und Plenarsitzungen. Die Kommission erhielt die endgültige Fassung am 10. Juli 2025; am 1. August billigten Kommission und KI-Ausschuss den Kodex laut Bericht durch Angemessenheitsbeschlüsse.

Der Text schildert vor allem Zweck, Beteiligungsverfahren und zeitlichen Ablauf. Er erläutert nicht im Einzelnen die konkreten Verhaltenskodex-Regeln oder deren praktische Wirkung. Die abgebildete FAQ-Grafik ist lediglich als Bildverweis enthalten und wird nicht in Textform wiedergegeben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna hat drei Fassungen der Zusammenfassung geliefert. Geprüft wurde die Fassung „mittel“ als Gesamtbild, denn sie deckt den Inhalt am vollständigsten ab. Bei den Sammelfragen ist die Einordnung von Luna in mehreren Fällen zu hoch angesetzt, da der Bericht zu Kosten, Schwellen und Mitbestimmung nichts Belegbares enthält.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Aufforderung zur Teilnahme am 30. Juli 2024 und der Auftakt am 30. September 2024 mit fast 1000 Teilnehmenden
  • Die drei Entwurfsrunden mit Entwurfsfassungen im Dezember 2024 und März 2025 sowie die Schlussplenarsitzung im Juli 2025
  • Die Zusage des KI-Büros, dass Vorsitzende, Stellvertretende und alle Plenumsteilnehmenden Zugang zu Informationen haben und sich wirksam einbringen können

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV offen
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 68 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 37 %Hintergrund, keine Belege
    • d3-ultra 70 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 47 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 24 %Hintergrund, keine Belege
    • Luna 39 %einzelne zitierbare Belege
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 41 %gleiches Oberthema, hilft nicht

    • SF-F4-T01 Einigen sich Staaten auf eine Definition von „Frontier-Modell“ (Modell an der vordersten Grenze der Entwicklung), nach Rechenaufwand, Fähigkeit oder Einsatz, und veröffentlicht jeder, welche Modelle seiner eigenen Firmen darunter fallen, damit alle über dieselben Modelle sprechen und keine Firma sich das passende Kriterium aussucht? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 37 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 36 %Hintergrund, keine Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 37 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 38 %Hintergrund, keine Belege
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
  4. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 29 %Hintergrund, keine Belege
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 33 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %Hintergrund, keine Belege
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 47 %Hintergrund, keine Belege
    • JEV offen
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 85 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 27 %Hintergrund, keine Belege
    • Luna 40 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %einzelne zitierbare Belege
    • SubQ 33 %Hintergrund, keine Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 40 %Hintergrund, keine Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV offen
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 63 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-A3-T05 Wie sollen Aufsichtsbehörden und Labore die Gesamtrisiken und die miteinander verknüpften Risiken tausender einzeln genehmigter Einsätze bewerten, die Infrastruktur, Modelle, Datenquellen oder Fehlerarten teilen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

    • SF-H1-T04 Welche Maßnahmen für Transparenz über Destillationsverfahren könnten Labore einführen, um Sicherheitsbedenken zu begegnen, ohne geschützte Innovation preiszugeben? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-H1-T05 Wie können Staaten zusammenarbeiten, um die Ausbreitung von Fähigkeiten zu beobachten, die durch Destillation aus großen, auf Sicherheit ausgerichteten Modellen in kleinere, weniger geregelte Modelle gelangen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 18 %beantwortet teilweise oder widerspricht
    • Luna 78 %einzelne zitierbare Belege
    • JEV offen
    • amos 37 %einzelne zitierbare Belege
    • SubQ 52 %einzelne zitierbare Belege
    • drex 46 %einzelne zitierbare Belege
    • d3-ultra 56 %einzelne zitierbare Belege
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-H3-T01 Welcher gemeinsame Standard für Datenherkunft und Transparenz der Trainingsdaten erlaubt jedem Staat zu prüfen, ob ausländische Modelle mit unrechtmäßig beschafften Daten trainiert wurden (geschützte Werke, private Kommunikation, als geheim eingestuftes Material), ohne die Daten selbst offenzulegen? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
    • SF-H3-T03 Welche verbindliche Meldepflicht hat ein Labor, wenn ein Modell, das zum Teil mit synthetischen Daten eines fremden Spitzenmodells trainiert wurde, eine schlechtere Ausrichtung zeigt, die grenzüberschreitend Schaden verursacht, und welches Recht hat die Regierung des Landes, aus dem die Daten stammen, den betroffenen Trainingsablauf zu prüfen, ohne an die Modellgewichte (die gelernten Parameter) zu kommen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-H3-T05 Wenn ein Modell nacheinander von Laboren in verschiedenen Rechtsordnungen feinjustiert, mit anderen Modellen zusammengeführt oder destilliert wird (ein weiteres Modell wird mit seinen Ausgaben trainiert) und jede Stufe Fähigkeiten hinzufügen oder Schutzvorkehrungen entfernen kann: Welches gemeinsame Herkunftsregister, das sich nur ergänzen und nicht ändern lässt, verfolgt eine Gefahr bis zu der Änderung zurück, die sie brachte, ohne die vollständigen Trainingsdaten eines einzelnen Labors zu verlangen? Und wenn dabei ein Verhalten entsteht, das keines der Ursprungslabore vorhergesehen hat: Welche Register- oder Vorabmeldepflicht gilt vor dem Einsatz, und welcher Staat ist bei grenzüberschreitendem Schaden zuständig? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

    • SF-H4-T01 Wer trägt die Verantwortung für Modellgewichte (die gelernten Parameter), Sicherheitsberichte und die Befunde der unabhängigen Prüfer im Labor, wenn ein Labor verkauft, umgebaut oder aufgelöst wird oder einen Trainingslauf aufgibt, und wird diese Kette vorher veröffentlicht? Welche Sicherheits- und Prüfpflichten gehen mit, wenn jemand Modelle, Gewichte oder Trainingsabläufe eines Labors erwirbt oder eine Firma außerhalb der KI ein Labor kauft, und muss eine Regierung vor dem Abschluss benachrichtigt werden? Welche Zusagen gelten weiter, gegen wen lassen sie sich durchsetzen, und gibt es einen Mechanismus, der das Unternehmen überdauert? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 48 %einzelne zitierbare Belege
    • JEV offen
    • amos 29 %einzelne zitierbare Belege
    • SubQ 28 %Hintergrund, keine Belege
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 40 %gleiches Oberthema, hilft nicht

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 26 %einzelne zitierbare Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 27 %einzelne zitierbare Belege
    • Luna 62 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %umfangreiche Belege
    • SubQ 27 %einzelne zitierbare Belege
    • drex 31 %umfangreiche Belege
    • d3-ultra 37 %einzelne zitierbare Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-E1-T03 Welches verbindliche Stimm- oder Vetorecht gibt Staaten des Globalen Südens und Laboren ohne Spitzenmodelle ein echtes Mitspracherecht im gemeinsamen Standard, nicht nur eine beratende Rolle? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 4 · 54 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 27 %Hintergrund, keine Belege
    • Luna 51 %Hintergrund, keine Belege
    • JEV offen
    • amos 34 %einzelne zitierbare Belege
    • SubQ 30 %Hintergrund, keine Belege
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 35 %einzelne zitierbare Belege

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 36 %einzelne zitierbare Belege
    • SubQ 38 %einzelne zitierbare Belege
    • drex 40 %einzelne zitierbare Belege
    • d3-ultra 46 %einzelne zitierbare Belege

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 71 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 4 · 42 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 28 %Hintergrund, keine Belege
    • Luna 34 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %nur am Rande erwähnt
    • SubQ 30 %Hintergrund, keine Belege
    • drex 37 %Hintergrund, keine Belege
    • d3-ultra 37 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 60 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 4 · 42 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 52 %gleiches Oberthema, hilft nicht
    • JEV offen
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 33 %Hintergrund, keine Belege
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →