Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
Zusammenfassung
Kurz
Der Text beschreibt eine freiwillige Anleitung von NIST, NSA SISC und CISA zur Vorbereitung auf Kontrollvorfälle mit leistungsfähigen Super-Intelligence-Agenten. Sie behandelt unter anderem Zugriffsbeschränkung, Überwachung, Beweissicherung, Eindämmung und Meldung von Vorfällen. Der vorliegende Text ist nur eine kurze Vorstellung der Anleitung; die zehn Praktiken werden nicht einzeln erläutert.
Mittel
Der Text stellt eine freiwillige Anleitung von NIST, dem Super Intelligence Security Center der NSA und CISA vor. Sie soll Organisationen helfen, die besonders leistungsfähige Super-Intelligence-Agenten trainieren oder bewerten, sich auf Kontrollvorfälle vorzubereiten und darauf zu reagieren. Als Vorfall gilt laut Beschreibung, wenn Agenten nicht angewiesene Handlungen ausführen, die Regeln, Sicherheitskontrollen oder menschliche Aufsicht beeinträchtigen.
Die Anleitung lehne sich an bewährte Verfahren zur Reaktion auf Cybervorfälle an und ergänze diese um Besonderheiten solcher Agenten. Genannt werden zehn Kernpraktiken, darunter Zugriffsbegrenzung, Überwachung unerwarteter Aktivitäten, Beweissicherung, das Stoppen unerwünschten Verhaltens und die Wiederherstellung aus überprüften Ausgangsständen. Auch Vorfälle und Beinahevorfälle sollen den zuständigen Behörden und Betroffenen gemeldet werden. Vor einer Wiederaufnahme des Agentenbetriebs seien Kontrollen zu testen und die Eindämmung zu validieren.
Der vorliegende Text ist nur eine kurze Vorstellung der Anleitung: Er enthält weder die zehn Praktiken im Einzelnen noch konkrete Umsetzungsschritte oder Wirksamkeitsnachweise.
Ausführlich lesen
Der Text stellt eine freiwillige Anleitung von NIST, dem Super Intelligence Security Center der NSA und CISA vor. Sie richtet sich an Organisationen, die besonders leistungsfähige Super-Intelligence-Agenten trainieren oder bewerten. Im Fokus stehen vor allem Systeme vor dem Einsatz, moderne Agenten mit verringerten Schutzvorkehrungen sowie andere risikoreiche, nicht öffentliche Systeme. Ziel der Anleitung ist, Organisationen auf Vorfälle vorzubereiten, bei denen Agenten die ihnen gesetzten Vorgaben oder Sicherheitskontrollen eigenmächtig verletzen.
Als einen solchen Kontrollvorfall beschreibt der Text nicht angewiesene Handlungen eines oder mehrerer Agenten, die Regeln, Kontrollen oder Schutzmaßnahmen für die jeweilige Aufgabe und menschliche Aufsicht beeinträchtigen oder umgehen. Die Anleitung orientiere sich an bewährten Verfahren der Reaktion auf Cybervorfälle und ergänze sie um Besonderheiten von Super-Intelligence-Systemen. Hervorgehoben werde, Kontrollen zu testen und die Eindämmung eines Vorfalls zu überprüfen, bevor der Agent wieder eingesetzt wird.
Als Themen der zehn freiwilligen Kernpraktiken nennt die Beschreibung die Begrenzung des Zugriffs von Agenten auf Informationen, Systeme, Werkzeuge und Netzwerke, die Überwachung unerwarteter Aktivitäten, die Sicherung von Beweisen und das Beenden unerwünschten Verhaltens. Außerdem gehe es darum, Systeme aus überprüften Ausgangsständen wiederherzustellen sowie Vorfälle und Beinahevorfälle den zuständigen Behörden und betroffenen Parteien zu melden.
Der vorliegende Text ist eine kurze Vorstellung der Anleitung, nicht deren vollständiger Inhalt. Er führt die zehn Praktiken nicht einzeln aus und nennt keine konkreten Umsetzungsschritte, Ergebnisse oder Belege für ihre Wirksamkeit. Für weitere Informationen verweist er auf die Super-Intelligence-Seite von CISA.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Einordnungen wurden unabhängig von Lunas Stufen vergeben. Der Bericht ist eine Kurzvorstellung ohne Einzelerläuterung der zehn Praktiken.
Im Bericht, aber nicht in der Zusammenfassung
- Ausrichtung auf vor dem Einsatz stehende Systeme mit reduzierten Schutzmaßnahmen wird in Kurz- und Mittelfassung nicht genannt
- Wiederherstellung aus verifizierten Ausgangsständen fehlt in der Kurzfassung
- Pflicht zum Testen der Kontrollen und Validieren der Eindämmung vor Wiederaufnahme fehlt in der Kurzfassung
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 22 %einzelne zitierbare Belege
- Luna 35 %Hintergrund, keine Belege
- JEV
- amos 26 %einzelne zitierbare Belege
- SubQ 30 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 27 %einzelne zitierbare Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 28 %nur am Rande erwähnt
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 23 %Hintergrund, keine Belege
- Luna 46 %einzelne zitierbare Belege
- JEV
- amos 26 %Hintergrund, keine Belege
- SubQ 25 %Hintergrund, keine Belege
- drex 47 %einzelne zitierbare Belege
- d3-ultra 29 %Hintergrund, keine Belege
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 19 %Hintergrund, keine Belege
- Luna 51 %einzelne zitierbare Belege
- JEV
- amos 39 %einzelne zitierbare Belege
- SubQ 44 %einzelne zitierbare Belege
- drex 48 %einzelne zitierbare Belege
- d3-ultra 45 %einzelne zitierbare Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 21 %einzelne zitierbare Belege
- Luna 72 %einzelne zitierbare Belege
- JEV
- amos 37 %einzelne zitierbare Belege
- SubQ 33 %umfangreiche Belege
- drex 40 %einzelne zitierbare Belege
- d3-ultra 40 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 42 %Hintergrund, keine Belege
- JEV
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 30 %Hintergrund, keine Belege
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 71 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 20 %gleiches Oberthema, hilft nicht
- Luna 22 %einzelne zitierbare Belege
- JEV
- amos 32 %einzelne zitierbare Belege
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 38 %einzelne zitierbare Belege
- d3-ultra 30 %Hintergrund, keine Belege
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 21 %Hintergrund, keine Belege
- Luna 65 %Hintergrund, keine Belege
- JEV
- amos 27 %nur am Rande erwähnt
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 29 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 31 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 24 %Hintergrund, keine Belege
- Luna 42 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 28 %Hintergrund, keine Belege
- drex 34 %einzelne zitierbare Belege
- d3-ultra 34 %Hintergrund, keine Belege
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 87 %gleiches Oberthema, hilft nicht
- drex 87 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 27 %Hintergrund, keine Belege
- Luna 49 %Hintergrund, keine Belege
- JEV
- amos 27 %Hintergrund, keine Belege
- SubQ 28 %Hintergrund, keine Belege
- drex 25 %Hintergrund, keine Belege
- d3-ultra 31 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 26 %Hintergrund, keine Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV
- amos 33 %nur am Rande erwähnt
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 17 %gleiches Oberthema, hilft nicht
- Luna 67 %einzelne zitierbare Belege
- JEV
- amos 32 %einzelne zitierbare Belege
- SubQ 26 %einzelne zitierbare Belege
- drex 33 %einzelne zitierbare Belege
- d3-ultra 38 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 21 %Hintergrund, keine Belege
- Luna 51 %einzelne zitierbare Belege
- JEV
- amos 30 %einzelne zitierbare Belege
- SubQ 39 %einzelne zitierbare Belege
- drex 33 %einzelne zitierbare Belege
- d3-ultra 43 %einzelne zitierbare Belege
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 25 %beantwortet teilweise oder widerspricht
- Luna 51 %einzelne zitierbare Belege
- JEV
- amos 28 %einzelne zitierbare Belege
- SubQ 36 %einzelne zitierbare Belege
- drex 31 %einzelne zitierbare Belege
- d3-ultra 45 %einzelne zitierbare Belege
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 33 %gleiches Oberthema, hilft nicht
- Luna 46 %Hintergrund, keine Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 31 %Hintergrund, keine Belege
- d3-ultra 58 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 77 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 24 %Hintergrund, keine Belege
- JEV
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 73 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 30 %einzelne zitierbare Belege
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 38 %einzelne zitierbare Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 26 %einzelne zitierbare Belege
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 28 %nur am Rande erwähnt
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 23 %nur am Rande erwähnt
- Luna 56 %einzelne zitierbare Belege
- JEV
- amos 40 %einzelne zitierbare Belege
- SubQ 43 %einzelne zitierbare Belege
- drex 48 %einzelne zitierbare Belege
- d3-ultra 68 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 81 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Alle Berichte im Archiv