Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
caisohne Datum · Q003026

Existing Policy Proposals Targeting Present and Future Harms

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht nennt stärkere Haftung von KI-Entwicklern, strengere Aufsicht über den gesamten Entwicklungszyklus und menschliche Kontrolle bei Hochrisikosystemen als Maßnahmen, die nach Einschätzung des Center for AI Safety gegen heutige Schäden und künftige Risiken helfen könnten. Die Vorschläge bilden keine vollständige Liste; eigene Wirksamkeitsnachweise präsentiert der Text nicht.

Mittel

Das Center for AI Safety beschreibt drei bestehende politische Vorschläge, die nach seiner Einschätzung aktuelle KI-Schäden verringern und künftigen gesellschaftlichen Risiken vorbeugen könnten. Gemeinsame Ziele von KI-Sicherheitsforschung und Forschung zu Fairness, Transparenz und Rechenschaftspflicht könnten helfen, Unterstützung für solche Regeln aufzubauen. Eigene Empfehlungen des Centers zu künftigen Risiken sollen später folgen.

Erstens fordert ein vom Bericht zitiertes Papier des AI Now Institute stärkere rechtliche Haftung der KI-Entwickler. Haftungsausschlüsse könnten Verantwortung auf nachgelagerte Akteure verlagern, die Risiken oft schlechter begrenzen können. Zweitens solle die Regulierung die Entwicklung über den gesamten Produktzyklus erfassen. Mehr Transparenz und Regeln für Trainingsdaten könnten laut Bericht Verzerrungen, unbezahlte Nutzung urheberrechtlich geschützter Inhalte und manche Sicherheitsrisiken angehen. Drittens betont der Text menschliche Aufsicht über Hochrisikosysteme, einschließlich der Möglichkeit, schädliche Entscheidungen zu übersteuern und gefährliche Systeme abzuschalten.

Die Liste ist ausdrücklich nicht vollständig. Der Bericht stellt erwartete Wirkungen vor, liefert aber keine eigene empirische Prüfung ihrer Wirksamkeit.

Ausführlich lesen

Der Bericht des Center for AI Safety stellt drei bereits vorgeschlagene politische Maßnahmen vor, die nach Einschätzung der Verfasser sowohl gegen gegenwärtige Schäden durch KI als auch gegen künftige gesellschaftliche Risiken helfen könnten. Er betont, dass sich die Anliegen von Sicherheitsforschung und Forschung zu Fairness, Rechenschaftspflicht, Transparenz und Ethik überschneiden. Gemeinsame Unterstützung für Regulierung könne deren Umsetzung erleichtern. Die angekündigten eigenen Empfehlungen des Centers zu künftigen Auswirkungen leistungsfähiger, allgemein einsetzbarer Modelle sollen erst später veröffentlicht werden.

Als ersten Vorschlag nennt der Text eine stärkere rechtliche Haftung für Schäden durch KI. Unter Berufung auf ein Positionspapier des AI Now Institute wendet er sich gegen pauschale Haftungsausschlüsse, durch die Entwickler allgemein einsetzbarer Modelle Verantwortung auf nachgelagerte Nutzer oder Anbieter abwälzen könnten. Diese hätten laut dem zitierten Argument oft weniger Ressourcen und Möglichkeiten, Risiken zu begrenzen. Klarere Haftungsregeln könnten dem Bericht zufolge bei Schäden durch Falschinformationen und algorithmische Verzerrungen Abhilfe schaffen und Unternehmen dazu bewegen, Sicherheitsfragen frühzeitig zu berücksichtigen.

Zweitens plädiert der Bericht für eine strengere behördliche Prüfung der Entwicklung von KI-Systemen über den gesamten Produktzyklus hinweg, statt nur deren spätere Anwendungen zu regulieren. Die Entwickler sollten für ihre Entscheidungen zu Daten und Systemgestaltung einstehen. Transparenz und Regeln für Trainingsdaten könnten nach Darstellung des Textes algorithmische Verzerrungen bekämpfen und verhindern, dass Unternehmen urheberrechtlich geschützte Werke ohne Ausgleich nutzen. Aus Sicht der KI-Sicherheit könnten solche Kontrollen zudem Risiken durch falsch spezifizierte Ziele mindern. Eine intensivere Aufsicht über Trainingsdaten könne deren verantwortungsvolle Beschaffung fördern und die Entwicklung immer leistungsfähigerer Systeme verlangsamen.

Drittens hebt der Bericht menschliche Aufsicht beim Einsatz risikoreicher KI hervor. Er verweist auf den vorgeschlagenen EU AI Act und die Möglichkeit, dass Menschen schädliche Entscheidungen oder Empfehlungen übersteuern. Menschliche Kontrolle könne laut Text Verzerrungen und die Verbreitung falscher oder irreführender Informationen eindämmen sowie dabei helfen, gefährliche Systeme rechtzeitig zu erkennen und abzuschalten.

Der Bericht beschreibt diese drei Vorschläge als Auswahl, ausdrücklich nicht als vollständige Liste. Er begründet ihre möglichen Vorteile, berichtet jedoch keine eigene Untersuchung, Messdaten oder nachgewiesenen Wirkungen; die Wirkungen werden als Einschätzungen und erwartete Beiträge dargestellt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassungen geben den kurzen Bericht im Wesentlichen korrekt wieder; die Lücken betreffen Nebenaussagen. Der Bericht ist eine Seite mit drei Vorschlägen, daher beantwortet er die Fragen meist nur teilweise. Der Cookie- und Platzhaltertext im Quellmaterial ist für die Bewertung ohne Belang.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Bericht sieht in der Aufsicht über Trainingsdaten auch ein Mittel, das gefährliche Tempo der Fähigkeitsforschung zu verlangsamen
  • Die Forderung nach menschlicher Aufsicht stammt laut Bericht aus dem Vorschlag des EU AI Act
  • Haftung soll Unternehmen dazu bringen, Sicherheit als Priorität statt als Nachgedanken zu behandeln

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 22 %Hintergrund, keine Belege
    • Luna 48 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-M5-T01 Verlangen Staaten von einem Labor, beim Verdacht auf Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) sofort den Zustand des Systems zu sichern, also Protokolle, Modellgewichte (die gelernten Parameter) und den Stand der Trainingsdaten, und zu veröffentlichen, dass es das getan hat, bevor Zeit und erneutes Training die einzigen Beweise löschen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-M5-T07 Würden Regierungen gemeinsame Mindestregeln für Abhilfe annehmen, wenn ein in einem Land eingesetztes KI-System in einem anderen nachweisbaren Schaden verursacht (Untersuchungsrechte, Sicherung von Beweisen, Zuständigkeit, Entschädigung), und würden dieselben Regeln auch gelten, wenn der Vorfall von einem Labor in einem Drittstaat ausgeht? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-M5-T08 Welchen gemeinsamen Mindeststandard für Versicherung oder finanzielle Verantwortung würden Staaten für Einsätze der leistungsstärksten KI-Modelle annehmen, die grenzüberschreitende Schäden verursachen, und wie wäre er zu bemessen, damit er Sicherheit in die Kosten der Skalierung einpreist, ohne zu einer Auflagen-Hürde zu werden, die nur die zwei größten Labore nehmen können? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
    • SF-M5-T09 Welches wirtschaftliche Mittel (Bußgelder, Haftung oder Regeln für die Beschaffung) würde die Mitglieder der Leitung eines Labors persönlich schlechter stellen, wenn sie an einem vereinbarten Sicherheitsprüfpunkt vorbeirennen, als wenn sie ihn einhalten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 33 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 34 %Hintergrund, keine Belege
    • Luna 26 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %nur am Rande erwähnt
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %Hintergrund, keine Belege
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 66 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %Hintergrund, keine Belege
    • Luna 64 %einzelne zitierbare Belege
    • JEV 54 %beantwortet teilweise oder widerspricht
    • amos 34 %einzelne zitierbare Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 58 %Hintergrund, keine Belege
    • JEV 22 %nur am Rande erwähnt
    • amos 27 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 52 %einzelne zitierbare Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 30 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 31 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-A2-T03 Welcher Standard für Widerstandsfähigkeit soll einen geprüften Ersatzweg ohne KI verlangen und die menschlichen Fähigkeiten erhalten, Fehler zu erkennen und zu beherrschen, wenn ein kritischer Dienst stark von Modellen abhängig wird? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 29 %Hintergrund, keine Belege
    • Luna 74 %einzelne zitierbare Belege
    • JEV 41 %nur am Rande erwähnt
    • amos 32 %Hintergrund, keine Belege
    • SubQ 34 %einzelne zitierbare Belege
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-H3-T01 Welcher gemeinsame Standard für Datenherkunft und Transparenz der Trainingsdaten erlaubt jedem Staat zu prüfen, ob ausländische Modelle mit unrechtmäßig beschafften Daten trainiert wurden (geschützte Werke, private Kommunikation, als geheim eingestuftes Material), ohne die Daten selbst offenzulegen? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
    • SF-H3-T03 Welche verbindliche Meldepflicht hat ein Labor, wenn ein Modell, das zum Teil mit synthetischen Daten eines fremden Spitzenmodells trainiert wurde, eine schlechtere Ausrichtung zeigt, die grenzüberschreitend Schaden verursacht, und welches Recht hat die Regierung des Landes, aus dem die Daten stammen, den betroffenen Trainingsablauf zu prüfen, ohne an die Modellgewichte (die gelernten Parameter) zu kommen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-H3-T05 Wenn ein Modell nacheinander von Laboren in verschiedenen Rechtsordnungen feinjustiert, mit anderen Modellen zusammengeführt oder destilliert wird (ein weiteres Modell wird mit seinen Ausgaben trainiert) und jede Stufe Fähigkeiten hinzufügen oder Schutzvorkehrungen entfernen kann: Welches gemeinsame Herkunftsregister, das sich nur ergänzen und nicht ändern lässt, verfolgt eine Gefahr bis zu der Änderung zurück, die sie brachte, ohne die vollständigen Trainingsdaten eines einzelnen Labors zu verlangen? Und wenn dabei ein Verhalten entsteht, das keines der Ursprungslabore vorhergesehen hat: Welche Register- oder Vorabmeldepflicht gilt vor dem Einsatz, und welcher Staat ist bei grenzüberschreitendem Schaden zuständig? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-H4-T01 Wer trägt die Verantwortung für Modellgewichte (die gelernten Parameter), Sicherheitsberichte und die Befunde der unabhängigen Prüfer im Labor, wenn ein Labor verkauft, umgebaut oder aufgelöst wird oder einen Trainingslauf aufgibt, und wird diese Kette vorher veröffentlicht? Welche Sicherheits- und Prüfpflichten gehen mit, wenn jemand Modelle, Gewichte oder Trainingsabläufe eines Labors erwirbt oder eine Firma außerhalb der KI ein Labor kauft, und muss eine Regierung vor dem Abschluss benachrichtigt werden? Welche Zusagen gelten weiter, gegen wen lassen sie sich durchsetzen, und gibt es einen Mechanismus, der das Unternehmen überdauert? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 26 %Hintergrund, keine Belege
    • Luna 52 %einzelne zitierbare Belege
    • JEV 27 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-K1-T01 Wie prüft ein Staat unabhängig, dass Entscheidungen über den Einsatz von Gewalt, vor allem in der nuklearen Führung und Kontrolle, ausschließlich beim Menschen bleiben? Welche unabhängig prüfbaren Belege würde er als Nachweis dafür annehmen, dass kein KI-System irgendwo in der Kette der nuklearen Führung und Kontrolle eines anderen Staates Freigabebefugnis hat, ohne dass Startverfahren offengelegt werden, und erlauben beide dafür ein gemeinsames Prüfverfahren? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-K1-T02 Welchen gemeinsamen Maßstab dafür, dass „der Mensch entschieden hat“, würden Regierungen annehmen, wenn ein Bediener bei einer Entscheidung über den Einsatz von Gewalt, vor allem über Atomwaffen, eine KI-Empfehlung in Sekunden bestätigt, zu schnell zum Abwägen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 33 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 32 %Hintergrund, keine Belege
    • Luna 54 %Hintergrund, keine Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 29 %Hintergrund, keine Belege
    • Luna 52 %Hintergrund, keine Belege
    • JEV 57 %beantwortet teilweise oder widerspricht
    • amos 39 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 42 %einzelne zitierbare Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 64 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 23 %Hintergrund, keine Belege
    • Luna 51 %einzelne zitierbare Belege
    • JEV 41 %beantwortet teilweise oder widerspricht
    • amos 31 %nur am Rande erwähnt
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 52 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 58 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →