Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-fundeohne Datum · Q000222

As Technology Changes Rapidly, Maritime Threats Evolve, Speakers in Security Council Urge Strong Human Oversight of Innovative ToolS Governing Global Navigation

globalsecurity.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Bericht gibt eine UN-Sicherheitsratsdebatte wieder, in der Redner Chancen neuer Technologien für maritime Überwachung und Frühwarnung betonten und zugleich menschliche Aufsicht, Cybersicherheit und internationales Recht forderten. Er nennt Risiken für Schiffe, Häfen und Unterseekabel sowie unterschiedliche nationale Positionen; die angeführten Angaben werden im Text nicht unabhängig geprüft. Der vorliegende Bericht ist kein bloßer Auszug und keine Fehlerseite.

Mittel

Der Bericht fasst eine offene Debatte des UN-Sicherheitsrats über neue Technologien und maritime Sicherheit zusammen. Als gemeinsame Leitlinie erscheint: KI und andere Innovationen können Überwachung, Frühwarnung und Navigation verbessern, brauchen aber menschliche Aufsicht, Cyberschutz und klare Bindung an internationales Recht. UN-Vertreter Rattray warnte vor neuen Möglichkeiten für nichtstaatliche Akteure sowie vor Fehlern und unbeabsichtigter Eskalation. Redner verwiesen auf Angriffe und Verwundbarkeit von Schiffen, Häfen und Unterseekabeln. Griechenlands Cybersicherheitschef nannte die Angabe, 87 Prozent der maritimen Organisationen hätten im vergangenen Jahr einen erheblichen Cybervorfall erlebt, und forderte unter anderem Technologieprüfungen und Kabelschutz. Nigeria, China und Georgien berichteten über eigene Überwachungs- und Frühwarnmaßnahmen.

Weitere Schwerpunkte waren internationale Zusammenarbeit und Unterstützung für Entwicklungsländer, damit neue Technik keine Abhängigkeit oder größere Ungleichheit schafft. Die Ukraine meldete Schäden an mehr als 1.600 Hafenanlagen; Russland bestritt, dass zusätzliche Beschränkungen für militärische KI nötig seien. Die Beiträge sind Positionen der Debattenteilnehmer. Der Bericht enthält keine unabhängige Prüfung ihrer Angaben; es handelt sich nicht um einen Auszug oder eine Fehlerseite.

Ausführlich lesen

Der Bericht schildert eine hochrangige offene Debatte des UN-Sicherheitsrats über neue Technologien und maritime Sicherheit. Als zentrale Botschaft gibt er die Forderung wieder, Innovation mit menschlicher Aufsicht, internationalem Recht und stärkerer Cybersicherheit zu verbinden. UN-Generalsekretärs Kabinettschef Earle Courtenay Rattray warnte, künstliche Intelligenz und andere Technologien könnten nichtstaatlichen Akteuren neue Möglichkeiten eröffnen; Fehler und unbeabsichtigte Eskalationen hätten letztlich menschliche Folgen. Seeleute und betroffene Gemeinschaften müssten im Mittelpunkt stehen. Rattray rief dazu auf, eine belastbare Wissensgrundlage zu Chancen und Risiken aufzubauen, Schutzvorkehrungen zu schaffen und Staaten die Möglichkeit zu geben, Technologien zu steuern oder abzulehnen. Zudem solle der Sicherheitsrat internationale Normen und Zusammenarbeit fördern.

Mehrere Redner betonten den Nutzen von KI für Überwachung, Anomalieerkennung, Frühwarnung und Navigation. Fareed Zakaria verwies auf die Bedeutung des Meeres für Welthandel und digitale Kommunikation und sprach sich für Echtzeitverarbeitung mit „Edge AI“ aus. Griechenlands Cybersicherheitschef Michail Bletsas bezeichnete KI zugleich als Verteidigungsmittel und Risikoverstärker. Er führte an, dass 87 Prozent der maritimen Organisationen im vergangenen Jahr einen erheblichen Cybersicherheitsvorfall erlebt hätten, und forderte Prüfungen von Schiffstechnologie, Schutz von Unterseekabeln und regionale Kompetenzzentren. Frankreichs Vertreterin hob mögliche Verbesserungen bei Frühwarnung, Analyse und Infrastrukturresilienz hervor, warnte aber vor Datenmanipulation und dem Missbrauch autonomer Systeme. Nigeria berichtete, sein „Deep Blue“-Projekt verbinde unbemannte Luftfahrzeuge mit Lagebildern zur Bekämpfung von Kriminalität im Golf von Guinea. China verwies auf eigene Frühwarndienste und Ausbildung; Georgien beschrieb den Ausbau von Radar- und Überwachungssystemen.

Als wiederkehrende Anliegen nennt der Bericht Kapazitätsaufbau, Erfahrungsaustausch und menschliche Verantwortlichkeit. Vertreter Chiles forderten technische Unterstützung für Entwicklungsländer und angemessene Aufsicht über autonome Systeme. Die Malediven warnten, fehlende Kapazitäten kleiner Inselstaaten könnten zu Schwachstellen der internationalen Sicherheit werden, und betonten, neue Technologien sollten deren eigenständige Entscheidungen stärken statt Abhängigkeiten zu schaffen. Indien wandte sich gegen eine Vertiefung bestehender Ungleichheiten. Portugal plädierte für Sicherheit schon bei der Entwicklung, Meldung von Schwachstellen und gemeinsame Risikobewertungen. Die USA betonten die Einbindung der Industrie und die Rolle der Internationalen Seeschifffahrtsorganisation (IMO), wandten sich aber gegen eine Ausweitung ihres Mandats und kritisierten einen möglichen globalen CO₂-Preis für die Schifffahrt.

Der Bericht thematisiert außerdem Angriffe und Gefahren für kritische Infrastruktur. Die Ukraine meldete Schäden oder teilweise Zerstörung an mehr als 1.600 Hafenanlagen und verlangte Schutz von Exportwegen sowie Rechenschaft für russische Angriffe. Russland vertrat die Auffassung, das Thema falle nicht in die Zuständigkeit des Sicherheitsrats und erfordere keine zusätzlichen Beschränkungen militärischer KI-Systeme. Die EU und weitere Redner warnten dagegen vor Cyberangriffen, Störungen der Schifffahrt und der Instrumentalisierung von Handelswegen und Unterseekabeln. Griechenlands Premierminister warb für eine regelgebundene maritime Ordnung. Norwegen und mit ihm nordische Staaten unterstrichen, dass technologischer Wandel die Verpflichtung zu internationalem Recht und Zusammenarbeit nicht aufheben dürfe. Kolumbien ergänzte die Sorge, Quantenanwendungen könnten Kommunikation aus der Ferne abfangen oder manipulieren.

Der Text gibt Positionen und Appelle der Redner in einer Debatte wieder; er präsentiert keine eigene systematische Untersuchung oder unabhängige Überprüfung der angeführten Zahlen und nationalen Programme. Der vorliegende Bericht ist kein bloßer Auszug und keine Fehlerseite.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 37 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 25 %nur am Rande erwähnt
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-M1-T01 Ab welchen Schwellen (Fähigkeit, Zahl der Opfer, Folgen für Infrastruktur) entscheidet jede Regierung, dass ein Vorfall gemeldet werden muss? Welche Antwortzeiten und Kommunikationsabläufe trennen gewöhnliche Cybervorfälle von Vorfällen der nationalen Sicherheit? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-M1-T02 Könnten Staaten eine kurze, gemeinsam vereinbarte Liste veröffentlichen, was für Meldezwecke als KI-gestützter Cybervorfall zählt, damit die Definition keines Staates später als Vorwurf gegen einen anderen gelesen werden kann? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege
  2. SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-M2-T06 Wie wird Melden günstiger als Schweigen, und verpflichtet sich jeder Staat zu melden, auch wenn eine Meldung offenlegt, was er erkennen kann? Verpflichtet sich jeder Staat zu einer Mindestfähigkeit zum Erkennen und Melden für seine Betreiber kritischer Infrastruktur, und wer legt diese fest, stattet sie aus und prüft sie, bevor der Kanal als betriebsbereit erklärt wird? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 53 %Hintergrund, keine Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
  4. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 32 %nur am Rande erwähnt
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

    • SF-M4-T01 Welches gemeinsame Meldeformat und welcher geschützte Kanal ließen Labore Fehler nachstellen und Korrekturen prüfen, ohne private Daten oder gefährliche technische Details preiszugeben? Und könnte sich die Branche über Grenzen hinweg auf einen Standard für das Melden KI-gestützter Einbrüche und Datenabflüsse einigen, damit eine Eskalation gemessen und nicht nur behauptet wird? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-M4-T02 Wie sähen Selbstkontrolle und Informationsaustausch zwischen Laboren verschiedener Staaten praktisch aus (eine gemeinsame Vorlage für Vorfallberichte, gemeinsame Übungen oder ein gemeinsames Register), und wer dürfte die Berichte sehen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-M4-T03 Mit welchem technischen Prüfverfahren stimmen Labore verschiedener Staaten die verantwortliche Offenlegung ab, wenn ein führendes KI-Modell eine kritische, bislang unbekannte Sicherheitslücke (Zero-Day) findet? Und könnten Labore ein gemeinsames, technisch ausgearbeitetes Protokoll für die Offenlegung von Cyberfähigkeiten entwerfen, das als Standard übernommen wird, auf den sich Regierungen stützen können? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-M4-T04 Wenn Labore rivalisierender Staaten einen gemeinsamen, vertraulichen Meldekanal für Beinahe-Vorfälle einrichteten: Welche Leitungs- und Kontrollstruktur gäbe allen Beteiligten die Gewissheit, dass geteilte Angaben später nicht in einem geopolitischen Streit als Waffe eingesetzt werden? Luna: Stufe 3 · 56 % · Hintergrund, keine Belege
    • SF-M4-T07 Wenn KI-Labore verschiedener Staaten sich selbst überwachen und Angaben zu Cyberangriffen mit KI austauschen sollen: Welche überprüfbaren Mindestzusagen machen sie dafür, ohne Kundendaten oder ihre eigenen Modelle herauszugeben? Zum Beispiel feste Arten von Vorfällen, eine Frist für Meldungen und das Offenlegen der Ergebnisse von Angriffstests. Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  5. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 40 %Hintergrund, keine Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege
    • SF-M5-T07 Würden Regierungen gemeinsame Mindestregeln für Abhilfe annehmen, wenn ein in einem Land eingesetztes KI-System in einem anderen nachweisbaren Schaden verursacht (Untersuchungsrechte, Sicherung von Beweisen, Zuständigkeit, Entschädigung), und würden dieselben Regeln auch gelten, wenn der Vorfall von einem Labor in einem Drittstaat ausgeht? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 21 %Hintergrund, keine Belege
    • Luna 79 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 39 %einzelne zitierbare Belege
    • SubQ 43 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 45 %einzelne zitierbare Belege

    • SF-F5-T01 Vereinbaren zwei Regierungen vor dem nächsten großen Vorfall, nicht erst danach, eine eng begrenzte gemeinsame Übung, etwa ein abgeschirmtes Red-Team-Szenario (einen simulierten Angriff), das benannte Forschende aus beiden Ländern gegen Testanlagen kritischer Infrastruktur der jeweils anderen Seite durchführen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-F5-T02 Könnten Staaten gemeinsame rote Linien vereinbaren, die den Einsatz KI-verstärkter Cyberfähigkeiten gegen kritische zivile Infrastruktur strikt verbieten? Luna: Stufe 4 · 63 % · einzelne zitierbare Belege
    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 4 · 50 % · einzelne zitierbare Belege
    • SF-F5-T05 Welche gemeinsamen Abläufe zur Deeskalation gibt es, um eine Blitz-Eskalation zu erkennen und zu unterbrechen, also sich aufschaukelnde Krisen, ausgelöst durch spieltheoretische Rückkopplungen im Bruchteil einer Sekunde zwischen gegnerischen autonomen Agentensystemen für Cyberabwehr und Nachrichtendienst, die schneller arbeiten als diplomatische Kanäle zwischen Menschen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 35 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
  3. SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 38 %nur am Rande erwähnt
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 36 %Hintergrund, keine Belege
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

    • SF-P5-T02 Könnten Staaten gemeinsame Kennzahlen und Vergleichsmaßstäbe für den Fortschritt bei ihren Transparenzzusagen veröffentlichen, mit vereinbarten Prüfabständen, damit die Öffentlichkeit beurteilen kann, ob ihre Gespräche messbare Ergebnisse für die Sicherheit bringen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-P5-T04 Welche Gestaltung würde KI-Zusagen zwischen Staaten über Wahlen, Führungswechsel und diplomatische Brüche hinweg tragen, und würde eine Regierung einen Mechanismus annehmen, der ihre Nachfolger bindet? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 54 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 81 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 47 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 34 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 32 %Hintergrund, keine Belege
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 40 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 55 %Hintergrund, keine Belege
    • JEV 52 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 35 %einzelne zitierbare Belege
    • SubQ 27 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 32 %gleiches Oberthema, hilft nicht

    • SF-A3-T03 Gibt es Cyber- oder Einsatzfähigkeiten, die erst entstehen, wenn Modelle verschiedener Staaten zusammenwirken (abgestimmte autonome Angriffe, gemeinsames Umgehen geteilter Überwacher), und welche gemeinsame Schwelle löst dann eine Prüfung aus? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-A3-T05 Wie sollen Aufsichtsbehörden und Labore die Gesamtrisiken und die miteinander verknüpften Risiken tausender einzeln genehmigter Einsätze bewerten, die Infrastruktur, Modelle, Datenquellen oder Fehlerarten teilen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 21 %Hintergrund, keine Belege
    • Luna 35 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 27 %Hintergrund, keine Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-K1-T01 Wie prüft ein Staat unabhängig, dass Entscheidungen über den Einsatz von Gewalt, vor allem in der nuklearen Führung und Kontrolle, ausschließlich beim Menschen bleiben? Welche unabhängig prüfbaren Belege würde er als Nachweis dafür annehmen, dass kein KI-System irgendwo in der Kette der nuklearen Führung und Kontrolle eines anderen Staates Freigabebefugnis hat, ohne dass Startverfahren offengelegt werden, und erlauben beide dafür ein gemeinsames Prüfverfahren? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  2. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 60 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 36 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-K2-T01 Wenn Staaten KI-Sicherheitsgrenzen für Spitzenmodelle vereinbaren: Welche Zusage, falls überhaupt eine, erstreckt diese Grenzen auf ihre militärischen Verbündeten, Partner beim Austausch von Geheimdienstwissen und Tochterfirmen von Rüstungsunternehmen, etwa in der NATO oder im Geheimdienstverbund Five Eyes? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %nur am Rande erwähnt
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 21 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 29 %einzelne zitierbare Belege
    • drex 45 %einzelne zitierbare Belege
    • d3-ultra 32 %Hintergrund, keine Belege

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 4 · 45 % · einzelne zitierbare Belege
    • SF-E1-T02 Welche Ordnung gibt Staaten außerhalb eines führenden Staatenpaares ein echtes Stimmrecht, nicht nur ein Anhörungsrecht, bei Vorfallschwellen, Fähigkeitskriterien und Standards? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
    • SF-E1-T03 Welches verbindliche Stimm- oder Vetorecht gibt Staaten des Globalen Südens und Laboren ohne Spitzenmodelle ein echtes Mitspracherecht im gemeinsamen Standard, nicht nur eine beratende Rolle? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 4 · 52 % · einzelne zitierbare Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 4 · 60 % · einzelne zitierbare Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 22 %Hintergrund, keine Belege
    • Luna 53 %einzelne zitierbare Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 37 %einzelne zitierbare Belege
    • SubQ 43 %einzelne zitierbare Belege
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra 49 %einzelne zitierbare Belege

    • SF-E2-T01 Wenn der UN-Sicherheitsrat nicht das richtige Forum für KI-Sicherheit ist: Welches Forum würde jeder Staat als legitim annehmen, wer bestimmt seine Mitglieder, und was genau behält der Rat: die Macht zu handeln oder nur die, unterrichtet zu werden? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E2-T07 Würden Regierungen ein gemeinsam finanziertes, offenes internationales Forschungsprogramm zu Problemen der Ausrichtung von KI an vorgesehenen Zielen und Werten (Täuschungserkennung, Wertelernen, skalierbare Aufsicht) unterstützen, mit gemeinsamen Vergleichstests und Veröffentlichung, nach dem Vorbild der Europäischen Organisation für Kernforschung (CERN) oder der Internationalen Atomenergie-Organisation (IAEO)? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege
    • SF-E2-T08 Können zwei Staaten KI-Risiken für „politische Sicherheit“ und „gesellschaftliche Steuerung“ im selben technischen Kanal besprechen wie Cyber- und Militärrisiken, ohne dass eine Seite das politische System der anderen als das zu lösende Problem behandelt? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 26 %nur am Rande erwähnt
    • drex 30 %nur am Rande erwähnt
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 77 %einzelne zitierbare Belege
    • JEV 60 %einzelne zitierbare Belege
    • amos 39 %einzelne zitierbare Belege
    • SubQ 39 %einzelne zitierbare Belege
    • drex 49 %einzelne zitierbare Belege
    • d3-ultra 39 %einzelne zitierbare Belege

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
    • SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen? Luna: Stufe 4 · 51 % · einzelne zitierbare Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %nur am Rande erwähnt
    • Luna 55 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 30 %Hintergrund, keine Belege
    • drex 36 %einzelne zitierbare Belege
    • d3-ultra 30 %nur am Rande erwähnt

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →