Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-funde8. September 2026 · Q000136

GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI

cloud.google.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

GTIG berichtet, dass Angreifer KI zunehmend mit Agenten und automatisierten Abläufen für Lieferkettenangriffe, Diebstahl von KI-Eigentum, Aufklärung und Zugangsdatenraub einsetzen. Die Gruppe nennt auch Grenzen ihrer Beobachtungen: Sie habe keine vollständig autonomen Exploit-Pipelines gegen Ziele und bei untersuchten Einflusskampagnen keine erfolgreichen interaktiven Bots festgestellt.

Mittel

Der Bericht der Google Threat Intelligence Group (GTIG) schildert, wie staatlich unterstützte Gruppen, Cyberkriminelle und Akteure von Einflusskampagnen im zweiten Quartal 2026 KI in Angriffen einsetzten. Nach GTIGs Einschätzung geht die Entwicklung von einfachen Prompts zu Agenten und automatisierten Abläufen, die etwa Erkundung und das Sammeln von Zugangsdaten beschleunigen. Mandiant berichtet von einer Kampagne, die nach einem Cloud-Einbruch in weniger als sechs Stunden geplant und gestartet worden sei.

Ein zentraler Risikobereich sind Software-Lieferketten: UNC6780 soll Entwicklerkonten, Open-Source-Pakete und CI/CD-Umgebungen angegriffen haben. Die Schadsoftware DUSTMAKER habe Projektkonfigurationen und KI-Assistenten manipuliert. GTIG meldet außerdem Diebstahl und Erpressung mit proprietären KI-Modellen, Quellcode und Forschung sowie Versuche, Googles Modelle durch sehr große Anfragekampagnen nachzuahmen.

KI sei auch für Aufklärung, Köder, Schadsoftware und Einflussinhalte verwendet worden. Einschränkend hält GTIG fest, keine vollständig autonomen Exploit-Pipelines gegen Ziele beobachtet zu haben. Bei untersuchten Einflusskampagnen habe es weder erfolgreiche interaktive Automatisierung noch neue Durchbruchsfähigkeiten festgestellt. Als weitere Risiken nennt der Bericht gestohlene KI-Zugänge und die Nutzung kompromittierter Cloud-Rechenleistung. Die Befunde beruhen laut GTIG auf Mandiant-Einsätzen, Bedrohungsbeobachtung und Plattformtelemetrie; die Abwehrmaßnahmen werden von Google selbst beschrieben.

Ausführlich lesen

Der Bericht der Google Threat Intelligence Group (GTIG) beschreibt, wie staatlich unterstützte Gruppen, Cyberkriminelle und Akteure von Einflusskampagnen im zweiten Quartal 2026 KI für Angriffe einsetzen. GTIG zufolge entwickelt sich die Nutzung von einfachen Prompts hin zu verknüpften Agenten und automatisierten Abläufen. Das könne die Zeit verkürzen, die Verteidiger zum Reagieren haben. Als Beispiel berichtet Mandiant von einem Angreifer, der nach einem Cloud-Einbruch mithilfe eines KI-Chatbots und mehrerer Agenten binnen weniger als sechs Stunden eine groß angelegte Kampagne zum Sammeln von Zugangsdaten plante und ausführte.

Ein Schwerpunkt ist die Gefährdung von Software-Lieferketten: KI-gestützte Entwicklung und die wachsende Menge an Open-Source-Komponenten könnten laut GTIG zu weniger Prüfung von Abhängigkeiten beitragen. Die Gruppe UNC6780 soll Entwicklerkonten und CI/CD-Umgebungen kompromittiert sowie Schadcode in Pakete und Repositories eingeschleust haben. Die als DUSTMAKER bezeichnete Schadsoftware nutzte dem Bericht zufolge unter anderem versteckte Projektdateien, manipulierte Konfigurationen und Anweisungen an KI-Assistenten. Solche Einträge sollten außerdem LLM-Sicherheitsprüfungen stören. Google berichtet, Gegenmaßnahmen ergriffen und Schutzmechanismen verstärkt zu haben.

GTIG beobachtete auch den Diebstahl oder die Erpressung mit proprietären KI-Modellen, Quellcode, Prompts und Forschungsergebnissen. Betroffen gewesen seien unter anderem Organisationen in Gesundheitswesen, Technologie sowie Medien und Unterhaltung. Direkte Angriffe der erfassten Spionage- und Einflussakteure auf führende Modelle habe GTIG im zweiten Quartal dagegen nicht festgestellt. Zugleich meldet der Bericht koordinierte Versuche, Googles Modelle durch sehr große Anfragevolumen nachzuahmen oder deren Fähigkeiten abzuleiten; Google gibt an, solche Kampagnen zu erkennen und zu stören.

Weitere Beispiele betreffen KI-gestützte Aufklärung, das Verfassen gezielter Köder, die Entwicklung oder Fehlersuche bei Schadsoftware und automatisierte Erkundung. Gruppen mit Verbindungen zu China, Iran, Russland und Nordkorea sowie finanziell motivierte Akteure werden im Bericht mit unterschiedlichen Einsätzen beschrieben. Bei Einflussoperationen diente KI laut GTIG etwa der Erstellung von Inhalten und fiktiven Personas. Für die untersuchten Kampagnen sah die Gruppe jedoch weder erfolgreiche Automatisierung interaktiver Bots noch grundlegend neue Fähigkeiten. Ebenso betont sie, bislang keine vollständig autonomen Exploit-Pipelines gegen Ziele in freier Wildbahn beobachtet zu haben; einzelfallbezogene KI-gestützte Analyse und Entwicklung von Exploits seien dagegen erkennbar.

Der Bericht beschreibt außerdem den Diebstahl von KI-Konten und Entwicklerzugängen sowie die missbräuchliche Nutzung fremder Cloud-Ressourcen für Rechenleistung („LLMJacking“). Die Belege stützen sich laut GTIG auf Incident-Response-Einsätze von Mandiant, die Beobachtung von Bedrohungsgruppen und Plattformtelemetrie. Google schildert eigene Abwehrmaßnahmen, darunter das Sperren beteiligter Konten und Projekte sowie Verbesserungen an Modellen und Sicherheitsfiltern. Die Darstellung stammt von Googles eigener Bedrohungsanalyseorganisation; der Bericht beschreibt Beobachtungen und Einschätzungen aus deren Sicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 19 %Hintergrund, keine Belege
    • Luna 68 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 41 %gleiches Oberthema, hilft nicht

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
    • SF-M3-T03 Wenn die leistungsstärksten KI-Modelle kritische Infrastruktur schützen und bei einem laufenden Einbruch in Maschinengeschwindigkeit selbstständig Netze abtrennen oder Korrekturen am ausführbaren Programmcode (Binär-Patches) erzeugen: Welche manipulationssichere Signatur in den Betriebsdaten (Telemetrie) unterscheidet eine rechtmäßige autonome Notfallbehebung von der Cyber-Sabotage eines Gegners, damit Abwehrschritte im zweiseitigen Meldekanal keinen Fehlalarm auslösen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-M4-T03 Mit welchem technischen Prüfverfahren stimmen Labore verschiedener Staaten die verantwortliche Offenlegung ab, wenn ein führendes KI-Modell eine kritische, bislang unbekannte Sicherheitslücke (Zero-Day) findet? Und könnten Labore ein gemeinsames, technisch ausgearbeitetes Protokoll für die Offenlegung von Cyberfähigkeiten entwerfen, das als Standard übernommen wird, auf den sich Regierungen stützen können? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 64 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 33 %Hintergrund, keine Belege

    • SF-F5-T02 Könnten Staaten gemeinsame rote Linien vereinbaren, die den Einsatz KI-verstärkter Cyberfähigkeiten gegen kritische zivile Infrastruktur strikt verbieten? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-F5-T04 Wie unterscheiden Aufsichtsbehörden, die eine Plattform zur Aufsicht über KI-Sicherheit aufbauen, automatisch erzeugte Sicherheitskorrekturen (Patches) von der offensiven Ausnutzung von Sicherheitslücken, ohne Verteidigungsforschung zu unterdrücken? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-F5-T05 Welche gemeinsamen Abläufe zur Deeskalation gibt es, um eine Blitz-Eskalation zu erkennen und zu unterbrechen, also sich aufschaukelnde Krisen, ausgelöst durch spieltheoretische Rückkopplungen im Bruchteil einer Sekunde zwischen gegnerischen autonomen Agentensystemen für Cyberabwehr und Nachrichtendienst, die schneller arbeiten als diplomatische Kanäle zwischen Menschen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %nur am Rande erwähnt
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 32 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 31 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 41 %Hintergrund, keine Belege
    • d3-ultra 100 %kein Bezug
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 40 %einzelne zitierbare Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 24 %Hintergrund, keine Belege
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 33 %gleiches Oberthema, hilft nicht
    • JEV 35 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 52 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 37 %umfangreiche Belege
    • amos 35 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 36 %einzelne zitierbare Belege
    • d3-ultra 35 %Hintergrund, keine Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 24 %Hintergrund, keine Belege
    • Luna 40 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 35 %Hintergrund, keine Belege

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 59 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 37 %einzelne zitierbare Belege
    • SubQ 28 %nur am Rande erwähnt
    • drex 48 %einzelne zitierbare Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 23 %Hintergrund, keine Belege
    • Luna 53 %einzelne zitierbare Belege
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 36 %einzelne zitierbare Belege
    • SubQ 26 %Hintergrund, keine Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 45 %einzelne zitierbare Belege

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-A3-T03 Gibt es Cyber- oder Einsatzfähigkeiten, die erst entstehen, wenn Modelle verschiedener Staaten zusammenwirken (abgestimmte autonome Angriffe, gemeinsames Umgehen geteilter Überwacher), und welche gemeinsame Schwelle löst dann eine Prüfung aus? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 19 %beantwortet teilweise oder widerspricht
    • Luna 33 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 35 %umfangreiche Belege
    • SubQ 36 %einzelne zitierbare Belege
    • drex 35 %umfangreiche Belege
    • d3-ultra 46 %einzelne zitierbare Belege

    • SF-H1-T01 Nach welchen gemeinsamen Kriterien sollen Regierungen die legitime Forschungsnutzung öffentlich zugänglicher KI-Ausgaben von einer Destillation unterscheiden, die die Sicherheitsinvestitionen eines anderen Landes systematisch unterläuft? Werden sie eine gemeinsame, enge Definition veröffentlichen, welche Nutzungen von Modellausgaben jede von ihnen als Verstoß wertet, und ein gemeinsames, überprüfbares Register geprüfter unerlaubter Versuche oder lizenzierter Destillation führen? Wie zeigt jede Regierung sonst, dass sie die Vereinbarung durchsetzt und den Vorwurf nicht nur gezielt einsetzt? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
    • SF-H1-T02 Welche Belege wäre ein Labor bereit, seiner eigenen Regierung zu geben, wenn ein ausländisches Labor offenbar Fähigkeiten aus einem seiner Modelle extrahiert hat, und würde dessen Regierung im Gegenzug dasselbe Format anerkennen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-H1-T03 Mit welchen technischen Kontrollen und Prüfspuren erkennen, melden und verhindern Labore unerlaubte Destillation und den Abfluss von Modellgewichten (den gelernten Parametern) über Grenzen hinweg? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege
    • SF-H1-T05 Wie können Staaten zusammenarbeiten, um die Ausbreitung von Fähigkeiten zu beobachten, die durch Destillation aus großen, auf Sicherheit ausgerichteten Modellen in kleinere, weniger geregelte Modelle gelangen? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege
    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege
    • SF-H2-T04 Wie sollen Staaten mit Open-Source-Modellen aus einem Land umgehen, die in einem anderen schädlich genutzt werden könnten, ohne legitime Forschungszusammenarbeit zu verhindern? Luna: Stufe 3 · 58 % · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 20 %einzelne zitierbare Belege
    • Luna 56 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 43 %einzelne zitierbare Belege
    • SubQ 42 %einzelne zitierbare Belege
    • drex 46 %einzelne zitierbare Belege
    • d3-ultra 49 %einzelne zitierbare Belege

  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  5. SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
    • clef 22 %Hintergrund, keine Belege
    • Luna 52 %einzelne zitierbare Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht

    • SF-H6-T02 Nennen zwei Staaten die Modelle des anderen ein Spionagerisiko, der eine wegen Datenabfluss, der andere wegen Diebstahls von Modellgewichten (den gelernten Parametern): Welche Belege würde jedes Ministerium als Widerlegung anerkennen, und wer darf sie sammeln? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 23 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 26 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 24 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 37 %nur am Rande erwähnt
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 29 %nur am Rande erwähnt
    • d3-ultra 37 %gleiches Oberthema, hilft nicht

    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →