Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-fundeohne Datum · Q004987

AI Safety Assessment < \n Our Work AISI AI Safety Institute

aisi.re.kr · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Das Korea AI Safety Institute beschreibt drei Aufgaben: nationale KI-Risiken identifizieren, gemeinsam mit Forschung und Industrie Bewertungs- und Minderungsrahmen entwickeln sowie Datensätze, Werkzeuge und Infrastruktur für Sicherheitsbewertungen aufbauen. Der Text stellt Ziele und geplante Tätigkeiten dar, nennt aber keine konkreten Ergebnisse oder Umsetzungsdetails.

Mittel

Das Korea AI Safety Institute erklärt, fortgeschrittene KI-Risiken systematisch bestimmen und bewerten zu wollen, sofern sie nationale Steuerung erfordern. Es nennt drei Aufgaben: Risiken anhand internationaler Diskussionen identifizieren und klassifizieren, etwa mögliche Unterstützung bei chemischen oder biologischen Waffen sowie das Umgehen menschlicher Aufsicht; mit Unternehmen, Hochschulen und Forschungseinrichtungen Bewertungsrahmen mit Indikatoren, Standards und Methoden entwickeln und Maßnahmen zur Risikominderung ausarbeiten; sowie Datensätze, Werkzeuge und weitere Infrastruktur für Sicherheitsbewertungen bereitstellen.

Nach Darstellung des Instituts sollen umfangreiche empirische Daten über mögliche Risiken in die Entwicklung und Anwendung der Bewertungsinstrumente einfließen. Bei Technologien mit möglichem schwerwiegendem Gefahrenpotenzial will es verlässliche Bewertungsrahmen entwickeln und teilen. Der Text beschreibt Vorhaben und Zuständigkeitsfelder, berichtet jedoch nicht über konkrete Ergebnisse oder bereits abgeschlossene Bewertungen. Details zu Kriterien, Umsetzung und Zeitplänen fehlen.

Ausführlich lesen

Das Korea AI Safety Institute beschreibt als Ziel, Risiken fortgeschrittener KI systematisch zu bestimmen und zu bewerten, wenn sie eine nationale Steuerung erfordern. Dafür nennt es drei Aufgabenfelder.

Erstens will das Institut KI-Risiken identifizieren und klassifizieren. Es orientiert sich dabei an internationalen Diskussionen und führt als Beispiele Modelle an, die die Entwicklung, Herstellung oder Beschaffung chemischer oder biologischer Waffen unterstützen könnten. Weitere Beispiele sind Systeme, die menschliche Aufsicht möglicherweise umgehen, etwa indem sie Sicherheitsmechanismen aushebeln, manipulieren oder täuschen oder sich ohne ausdrückliche Zustimmung autonom vervielfältigen.

Zweitens entwickelt das Institut nach eigener Darstellung gemeinsam mit Unternehmen, Hochschulen und Forschungseinrichtungen Sicherheitsrahmen für unterschiedliche Risiken. Diese sollen Indikatoren, Standards und Methoden für die Bewertung umfassen sowie Ansätze zur Risikominderung. Bei KI-Technologien mit möglichem schwerwiegendem Gefahrenpotenzial will das Institut verlässliche Bewertungsrahmen entwickeln und weitergeben.

Drittens unterstützt es Sicherheitsbewertungen durch Infrastruktur: Dazu zählt der Aufbau von Datensätzen und die Entwicklung von Bewertungswerkzeugen. Das Institut erklärt, umfangreiche empirische Daten zu möglichen KI-Risiken zu sammeln und daraus Werkzeuge und Infrastruktur für wirksame Bewertungen zu entwickeln und einzusetzen.

Der Bericht skizziert damit Ziele und Tätigkeitsbereiche des Instituts, liefert aber keine konkreten Ergebnisse, Beispiele für bereits durchgeführte Bewertungen oder Angaben dazu, wie die genannten Rahmen und Werkzeuge umgesetzt werden. Er enthält auch keine näheren Angaben zu Kriterien, Zuständigkeiten oder Zeitplänen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht ist eine kurze Selbstdarstellung des Instituts ohne Belege oder Umsetzungsdetails. Die Einordnungen stützen sich ausschließlich auf den Text und beruhen auf Lunas Angaben zu den Sammelfragen, da keine Teilfragen angegeben waren.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Beispiele Manipulation/Täuschung und autonome Replikation ohne Zustimmung werden nicht genannt

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 63 %Hintergrund, keine Belege
    • JEV 54 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 80 %gleiches Oberthema, hilft nicht
    • drex 86 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 40 %Hintergrund, keine Belege
    • Luna 37 %einzelne zitierbare Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 39 %Hintergrund, keine Belege
    • drex 33 %Hintergrund, keine Belege
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 33 %nur am Rande erwähnt
    • Luna 48 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 34 %nur am Rande erwähnt
    • drex 35 %nur am Rande erwähnt
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 27 %Hintergrund, keine Belege
    • Luna 36 %Hintergrund, keine Belege
    • JEV 59 %Hintergrund, keine Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 51 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 40 %Hintergrund, keine Belege
    • Luna 30 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 54 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 29 %Hintergrund, keine Belege
    • Luna 44 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 33 %Hintergrund, keine Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 39 %Hintergrund, keine Belege
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 36 %Hintergrund, keine Belege
    • Luna 48 %Hintergrund, keine Belege
    • JEV 65 %Hintergrund, keine Belege
    • amos 33 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 84 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 35 %Hintergrund, keine Belege
    • Luna 38 %Hintergrund, keine Belege
    • JEV 36 %nur am Rande erwähnt
    • amos 40 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 30 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 33 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 36 %Hintergrund, keine Belege
    • Luna 61 %Hintergrund, keine Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %Hintergrund, keine Belege
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 30 %Hintergrund, keine Belege
    • Luna 61 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 39 %Hintergrund, keine Belege
    • drex 38 %Hintergrund, keine Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 29 %Hintergrund, keine Belege
    • Luna 42 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 36 %Hintergrund, keine Belege
    • Luna 49 %Hintergrund, keine Belege
    • JEV 54 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 66 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 81 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 84 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 82 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 33 %Hintergrund, keine Belege
    • Luna 40 %einzelne zitierbare Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 34 %Hintergrund, keine Belege
    • Luna 33 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 39 %Hintergrund, keine Belege
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 30 %beantwortet teilweise oder widerspricht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 68 %beantwortet teilweise oder widerspricht
    • amos 32 %einzelne zitierbare Belege
    • SubQ 52 %einzelne zitierbare Belege
    • drex 48 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 60 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →