AI Safety Assessment < \n Our Work AISI AI Safety Institute
Zusammenfassung
Kurz
Das Korea AI Safety Institute beschreibt drei Aufgaben: nationale KI-Risiken identifizieren, gemeinsam mit Forschung und Industrie Bewertungs- und Minderungsrahmen entwickeln sowie Datensätze, Werkzeuge und Infrastruktur für Sicherheitsbewertungen aufbauen. Der Text stellt Ziele und geplante Tätigkeiten dar, nennt aber keine konkreten Ergebnisse oder Umsetzungsdetails.
Mittel
Das Korea AI Safety Institute erklärt, fortgeschrittene KI-Risiken systematisch bestimmen und bewerten zu wollen, sofern sie nationale Steuerung erfordern. Es nennt drei Aufgaben: Risiken anhand internationaler Diskussionen identifizieren und klassifizieren, etwa mögliche Unterstützung bei chemischen oder biologischen Waffen sowie das Umgehen menschlicher Aufsicht; mit Unternehmen, Hochschulen und Forschungseinrichtungen Bewertungsrahmen mit Indikatoren, Standards und Methoden entwickeln und Maßnahmen zur Risikominderung ausarbeiten; sowie Datensätze, Werkzeuge und weitere Infrastruktur für Sicherheitsbewertungen bereitstellen.
Nach Darstellung des Instituts sollen umfangreiche empirische Daten über mögliche Risiken in die Entwicklung und Anwendung der Bewertungsinstrumente einfließen. Bei Technologien mit möglichem schwerwiegendem Gefahrenpotenzial will es verlässliche Bewertungsrahmen entwickeln und teilen. Der Text beschreibt Vorhaben und Zuständigkeitsfelder, berichtet jedoch nicht über konkrete Ergebnisse oder bereits abgeschlossene Bewertungen. Details zu Kriterien, Umsetzung und Zeitplänen fehlen.
Ausführlich lesen
Das Korea AI Safety Institute beschreibt als Ziel, Risiken fortgeschrittener KI systematisch zu bestimmen und zu bewerten, wenn sie eine nationale Steuerung erfordern. Dafür nennt es drei Aufgabenfelder.
Erstens will das Institut KI-Risiken identifizieren und klassifizieren. Es orientiert sich dabei an internationalen Diskussionen und führt als Beispiele Modelle an, die die Entwicklung, Herstellung oder Beschaffung chemischer oder biologischer Waffen unterstützen könnten. Weitere Beispiele sind Systeme, die menschliche Aufsicht möglicherweise umgehen, etwa indem sie Sicherheitsmechanismen aushebeln, manipulieren oder täuschen oder sich ohne ausdrückliche Zustimmung autonom vervielfältigen.
Zweitens entwickelt das Institut nach eigener Darstellung gemeinsam mit Unternehmen, Hochschulen und Forschungseinrichtungen Sicherheitsrahmen für unterschiedliche Risiken. Diese sollen Indikatoren, Standards und Methoden für die Bewertung umfassen sowie Ansätze zur Risikominderung. Bei KI-Technologien mit möglichem schwerwiegendem Gefahrenpotenzial will das Institut verlässliche Bewertungsrahmen entwickeln und weitergeben.
Drittens unterstützt es Sicherheitsbewertungen durch Infrastruktur: Dazu zählt der Aufbau von Datensätzen und die Entwicklung von Bewertungswerkzeugen. Das Institut erklärt, umfangreiche empirische Daten zu möglichen KI-Risiken zu sammeln und daraus Werkzeuge und Infrastruktur für wirksame Bewertungen zu entwickeln und einzusetzen.
Der Bericht skizziert damit Ziele und Tätigkeitsbereiche des Instituts, liefert aber keine konkreten Ergebnisse, Beispiele für bereits durchgeführte Bewertungen oder Angaben dazu, wie die genannten Rahmen und Werkzeuge umgesetzt werden. Er enthält auch keine näheren Angaben zu Kriterien, Zuständigkeiten oder Zeitplänen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Der Bericht ist eine kurze Selbstdarstellung des Instituts ohne Belege oder Umsetzungsdetails. Die Einordnungen stützen sich ausschließlich auf den Text und beruhen auf Lunas Angaben zu den Sammelfragen, da keine Teilfragen angegeben waren.
Im Bericht, aber nicht in der Zusammenfassung
- Die Beispiele Manipulation/Täuschung und autonome Replikation ohne Zustimmung werden nicht genannt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 63 %Hintergrund, keine Belege
- JEV 54 %gleiches Oberthema, hilft nicht
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 78 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 84 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 70 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 43 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 80 %gleiches Oberthema, hilft nicht
- drex 86 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 83 %gleiches Oberthema, hilft nicht
- drex 83 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 40 %Hintergrund, keine Belege
- Luna 37 %einzelne zitierbare Belege
- JEV 53 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 39 %Hintergrund, keine Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 43 %Hintergrund, keine Belege
- JEV 49 %Hintergrund, keine Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 33 %nur am Rande erwähnt
- Luna 48 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 33 %nur am Rande erwähnt
- SubQ 34 %nur am Rande erwähnt
- drex 35 %nur am Rande erwähnt
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 27 %Hintergrund, keine Belege
- Luna 36 %Hintergrund, keine Belege
- JEV 59 %Hintergrund, keine Belege
- amos 33 %nur am Rande erwähnt
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 36 %gleiches Oberthema, hilft nicht
- Luna 40 %Hintergrund, keine Belege
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 40 %Hintergrund, keine Belege
- Luna 30 %Hintergrund, keine Belege
- JEV 46 %Hintergrund, keine Belege
- amos 29 %nur am Rande erwähnt
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV 54 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 29 %Hintergrund, keine Belege
- Luna 44 %Hintergrund, keine Belege
- JEV 43 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 39 %Hintergrund, keine Belege
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 33 %gleiches Oberthema, hilft nicht
- JEV 66 %gleiches Oberthema, hilft nicht
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 65 %gleiches Oberthema, hilft nicht
- SubQ 91 %gleiches Oberthema, hilft nicht
- drex 87 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 36 %Hintergrund, keine Belege
- Luna 48 %Hintergrund, keine Belege
- JEV 65 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 84 %gleiches Oberthema, hilft nicht
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 35 %Hintergrund, keine Belege
- Luna 38 %Hintergrund, keine Belege
- JEV 36 %nur am Rande erwähnt
- amos 40 %nur am Rande erwähnt
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 30 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %Hintergrund, keine Belege
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 36 %Hintergrund, keine Belege
- Luna 61 %Hintergrund, keine Belege
- JEV 37 %nur am Rande erwähnt
- amos 33 %nur am Rande erwähnt
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %Hintergrund, keine Belege
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 75 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 30 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV 43 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 39 %Hintergrund, keine Belege
- drex 38 %Hintergrund, keine Belege
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 29 %Hintergrund, keine Belege
- Luna 42 %Hintergrund, keine Belege
- JEV 39 %Hintergrund, keine Belege
- amos 34 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 36 %Hintergrund, keine Belege
- Luna 49 %Hintergrund, keine Belege
- JEV 54 %gleiches Oberthema, hilft nicht
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 66 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 39 %Hintergrund, keine Belege
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 75 %gleiches Oberthema, hilft nicht
- drex 83 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 81 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 84 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 53 %gleiches Oberthema, hilft nicht
- amos 59 %gleiches Oberthema, hilft nicht
- SubQ 79 %gleiches Oberthema, hilft nicht
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 31 %gleiches Oberthema, hilft nicht
- Luna 54 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 82 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 33 %Hintergrund, keine Belege
- Luna 40 %einzelne zitierbare Belege
- JEV 36 %Hintergrund, keine Belege
- amos 31 %nur am Rande erwähnt
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 34 %Hintergrund, keine Belege
- Luna 33 %einzelne zitierbare Belege
- JEV 54 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 39 %Hintergrund, keine Belege
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 30 %beantwortet teilweise oder widerspricht
- Luna 48 %einzelne zitierbare Belege
- JEV 68 %beantwortet teilweise oder widerspricht
- amos 32 %einzelne zitierbare Belege
- SubQ 52 %einzelne zitierbare Belege
- drex 48 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 60 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 32 %Hintergrund, keine Belege
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 70 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 36 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 60 %gleiches Oberthema, hilft nicht
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 73 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 77 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 44 %gleiches Oberthema, hilft nicht
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv