Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
oecd8. Mai 2025 · Q004431

AI in finance: Balancing innovation and stability

oecd.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der OECD-Bericht sieht im KI-Einsatz im Finanzwesen Chancen für Effizienz und Kundenerfahrung, aber auch Risiken für Marktintegrität, Schutzinteressen und Finanzstabilität. Eine nicht vollständige Befragung von 49 Jurisdiktionen ergab, dass bestehende Regeln meist auch für KI gelten und die meisten Befragten keine aktuellen Regelungslücken sahen; sie empfehlen dennoch fortlaufende Prüfung, Zusammenarbeit und gegebenenfalls praktische Leitlinien.

Mittel

Der OECD-Bericht beschreibt Chancen und Risiken des KI-Einsatzes im Finanzwesen. KI kann laut Bericht Effizienz und Kundenerfahrung verbessern und wird etwa für Risikomodelle, Handel und Betrugserkennung genutzt. Generative KI sei bei regulierten Finanzinstituten bislang nicht weit verbreitet und diene vorwiegend internen Abläufen und Experimenten. Als Risiken nennt der Bericht mögliche Schäden für Marktintegrität, Verbraucher- und Anlegerschutz sowie Finanzstabilität.

Eine OECD-Befragung von 49 Jurisdiktionen ergab, dass in den meisten Ländern bestehende, technologie-neutrale Finanzregeln auch für KI gelten. Dazu gehören Vorgaben zu Modellrisiken, Cybersicherheit und Verbraucherschutz. Einige Länder ergänzen sie durch KI-Gesetze oder unverbindliche Leitlinien; die meisten planten laut Befragung kurzfristig keine neuen Finanzregeln für KI. Die Befragten sahen überwiegend keine Lücken in den geltenden Rahmenwerken, betonten aber die Notwendigkeit laufender Prüfung. Internationale Zusammenarbeit und praktische Hinweise für Unternehmen könnten die Umsetzung unterstützen. Die Befragung ist laut Bericht nicht vollständig; ihre Ergebnisse geben die Einschätzungen der antwortenden Jurisdiktionen wieder.

Ausführlich lesen

Der Bericht der OECD behandelt, wie sich der Einsatz künstlicher Intelligenz (KI) im Finanzwesen mit Finanzstabilität und angemessener Aufsicht vereinbaren lässt. KI verspricht laut Bericht Effizienzgewinne und bessere Kundenerfahrungen, etwa in Banken, bei Krediten, Vermögensverwaltung, Handel und Versicherungen. Bei einer OECD-FSB-Runde im Mai 2024 berichteten Marktteilnehmer über Anwendungen unter anderem in Risikomodellen, im Handel, bei der Betrugserkennung und der Bekämpfung von Finanzkriminalität. Generative KI werde von regulierten Finanzinstituten derzeit noch nicht breit eingesetzt; sie diene vor allem der Verbesserung interner Abläufe und dem Experimentieren. Zugleich könne KI Risiken für Marktintegrität, Verbraucher- und Anlegerschutz sowie Finanzstabilität schaffen oder verstärken.

Als Grundlage für den Überblick über die Regulierung verweist der Bericht auf eine OECD-Studie zu 49 OECD- und Nicht-OECD-Jurisdiktionen. Deren Befragung ergab, dass in der großen Mehrheit der antwortenden Länder bestehende Regeln auch für KI im Finanzwesen gelten. Dazu zählen Vorgaben zu umsichtiger Geschäftspraxis, Verbraucher- und Anlegerschutz, Cybersicherheit und betrieblicher Widerstandsfähigkeit. Das technologie-neutrale Prinzip der Finanzregulierung bedeutet demnach, dass technologische Neuerungen bestehende Standards und Compliance-Anforderungen nicht automatisch außer Kraft setzen. Als häufig angeführtes Beispiel nennt der Bericht allgemeine Risikomanagementregeln, insbesondere für Modellrisiken; maschinelles Lernen werde im Finanzwesen bereits seit Jahrzehnten genutzt.

Daneben haben viele der befragten Länder politische Maßnahmen zu KI ergriffen oder planen diese. Sie unterscheiden sich in Form und Reichweite: Dazu gehören sektorübergreifende Gesetze, etwa der EU AI Act sowie Gesetze in Brasilien, Chile und Kolumbien, und unverbindliche Leitlinien, Prinzipien, Strategien oder Weißbücher. Die neuen Maßnahmen ergänzen laut Bericht die weiterhin geltenden sektorspezifischen Regeln; die Ansätze schließen einander nicht aus. Die meisten Länder planten demnach kurzfristig keine neuen KI-Regulierungen für das Finanzwesen. Auch das Prinzip der Verhältnismäßigkeit spielt eine Rolle: Anforderungen sollen den jeweiligen Risiken und der systemischen Bedeutung der Finanzakteure Rechnung tragen.

Die meisten Befragten sahen keine Lücken in den bestehenden Regulierungs- und Aufsichtsrahmen, hielten deren fortlaufende Prüfung aber für nötig. Zu untersuchen sei insbesondere, ob Regeln weiterentwickelt werden müssen, damit der Einsatz fortgeschrittener KI sicher und verantwortungsvoll bleibt. Die OECD empfiehlt hierfür internationale Zusammenarbeit und den Austausch zwischen Aufsicht, Branche und Technologieanbietern. Praktische Erläuterungen könnten Unternehmen bei der Umsetzung bestehender Vorgaben helfen; nur wenige Länder hätten solche Klarstellungen bereits herausgegeben, die Befragten erkennten ihren möglichen Nutzen jedoch an.

Der Bericht sieht regelmäßige Überprüfungen bestehender Rahmenwerke als Möglichkeit, ihre Wirksamkeit, mögliche Widersprüche – etwa zwischen KI- und Datenregulierung – und die Abstimmung verschiedener Politikbereiche zu prüfen. Ziel sei, verantwortungsvolle Innovation nicht unnötig zu behindern und zugleich Aufsicht und Risikominderung sicherzustellen. Die empirische Basis der genannten Befunde ist begrenzt: Die Angaben stammen aus einer Befragung von 49 Jurisdiktionen und werden im Bericht ausdrücklich als nicht vollständig bezeichnet. Die Aussagen geben die Einschätzungen der antwortenden Länder wieder und belegen nicht, dass alle Regelungslücken ausgeschlossen sind.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna hat zwei Kurzfassungen geliefert; beide wurden geprüft, und die Bewertung bezieht sich auf die mittlere Fassung, deren Inhalt die Aussagen des Berichts gut wiedergibt. Lunas Stufen und Anteilswerte in der Einordnung wurden nicht übernommen, da die Bewertung unabhängig erfolgt. Die Abbildungen im Bericht enthalten nur Bildunterschriften und wurden nicht inhaltlich ausgewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Das Verhältnismäßigkeitsprinzip, nach dem Prüfpflichten dem Risikoprofil und der Systemrelevanz der Teilnehmer entsprechen sollen
  • Die zentrale Schlussfolgerung, dass Regulierung kein Hindernis für verantwortungsvolle KI-Innovation werden soll
  • Der Hinweis, dass Technologieneutralität bedeutet, dass bestehende Regeln durch technischen Fortschritt nicht obsolet werden

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 63 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 76 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-M4-T04 Wenn Labore rivalisierender Staaten einen gemeinsamen, vertraulichen Meldekanal für Beinahe-Vorfälle einrichteten: Welche Leitungs- und Kontrollstruktur gäbe allen Beteiligten die Gewissheit, dass geteilte Angaben später nicht in einem geopolitischen Streit als Waffe eingesetzt werden? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 56 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-M5-T08 Welchen gemeinsamen Mindeststandard für Versicherung oder finanzielle Verantwortung würden Staaten für Einsätze der leistungsstärksten KI-Modelle annehmen, die grenzüberschreitende Schäden verursachen, und wie wäre er zu bemessen, damit er Sicherheit in die Kosten der Skalierung einpreist, ohne zu einer Auflagen-Hürde zu werden, die nur die zwei größten Labore nehmen können? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 31 %nur am Rande erwähnt
    • amos 34 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-F2-T02 Wenn ein Staat fremde Modelle als Zeichen einer neuen Stufe nennt: Beruht das auf eigenen Messungen, die er so veröffentlichen könnte wie andere ihre Messungen? Und haben Labore vergleichbare Prüfungen fremder Modelle durchgeführt und sich entschieden, sie nicht zu veröffentlichen? Gefragt wurde das zu Minister Chen Yixins Nennung von Claude Mythos und GPT-5.5-Cyber als Zeichen der Phase „KI gegen KI“ bei Cyberangriff und -abwehr, nachdem die US-Prüfstelle CAISI Messungen von GLM-5.3 (17. September 2026) und, mit dem britischen AI Security Institute, von Kimi K3 (Juli 2026) veröffentlicht hatte, und zu Prüfungen von OpenAI und Anthropic an Modellen von DeepSeek, GLM, Qwen oder Kimi. Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 0 · kein Bezug
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 73 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
  5. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 35 %gleiches Oberthema, hilft nicht
    • JEV 100 %kein Bezug
    • amos 30 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 84 %Hintergrund, keine Belege
    • JEV 57 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 43 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %Hintergrund, keine Belege
    • Luna 72 %einzelne zitierbare Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 30 %einzelne zitierbare Belege
    • SubQ 27 %Hintergrund, keine Belege
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 36 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 73 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

    • SF-A2-T03 Welcher Standard für Widerstandsfähigkeit soll einen geprüften Ersatzweg ohne KI verlangen und die menschlichen Fähigkeiten erhalten, Fehler zu erkennen und zu beherrschen, wenn ein kritischer Dienst stark von Modellen abhängig wird? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 84 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-A3-T05 Wie sollen Aufsichtsbehörden und Labore die Gesamtrisiken und die miteinander verknüpften Risiken tausender einzeln genehmigter Einsätze bewerten, die Infrastruktur, Modelle, Datenquellen oder Fehlerarten teilen? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 80 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H4-T01 Wer trägt die Verantwortung für Modellgewichte (die gelernten Parameter), Sicherheitsberichte und die Befunde der unabhängigen Prüfer im Labor, wenn ein Labor verkauft, umgebaut oder aufgelöst wird oder einen Trainingslauf aufgibt, und wird diese Kette vorher veröffentlicht? Welche Sicherheits- und Prüfpflichten gehen mit, wenn jemand Modelle, Gewichte oder Trainingsabläufe eines Labors erwirbt oder eine Firma außerhalb der KI ein Labor kauft, und muss eine Regierung vor dem Abschluss benachrichtigt werden? Welche Zusagen gelten weiter, gegen wen lassen sie sich durchsetzen, und gibt es einen Mechanismus, der das Unternehmen überdauert? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 30 %Hintergrund, keine Belege
    • Luna 40 %Hintergrund, keine Belege
    • JEV 34 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 31 %nur am Rande erwähnt
    • drex 28 %nur am Rande erwähnt
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 29 %Hintergrund, keine Belege
    • Luna 48 %einzelne zitierbare Belege
    • JEV 39 %umfangreiche Belege
    • amos 39 %einzelne zitierbare Belege
    • SubQ 30 %Hintergrund, keine Belege
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 37 %Hintergrund, keine Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-E2-T07 Würden Regierungen ein gemeinsam finanziertes, offenes internationales Forschungsprogramm zu Problemen der Ausrichtung von KI an vorgesehenen Zielen und Werten (Täuschungserkennung, Wertelernen, skalierbare Aufsicht) unterstützen, mit gemeinsamen Vergleichstests und Veröffentlichung, nach dem Vorbild der Europäischen Organisation für Kernforschung (CERN) oder der Internationalen Atomenergie-Organisation (IAEO)? Luna: Stufe 3 · 69 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %nur am Rande erwähnt
    • Luna 43 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 29 %Hintergrund, keine Belege
    • drex 35 %Hintergrund, keine Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

    • SF-E3-T01 Gibt es eine angekündigte Aufsichtsstelle für KI-Sicherheit schon als arbeitende Einrichtung oder nur als Programmsatz? Gefragt wurde das zu Chinas Plattform zur Aufsicht über KI-Sicherheit im Artikel von Minister Chen Yixin. Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 81 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
    • clef 21 %beantwortet teilweise oder widerspricht
    • Luna 53 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 45 %Hintergrund, keine Belege
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-W3-T01 Wenn ein Spitzenlabor zusagt, weiteres Skalieren einseitig zurückzuhalten: Welche verbindlichen Regeln legen fest, wann eine solche Sicherheitspause eine wesentliche, nicht öffentliche Information im Sinne des Wertpapierrechts ist, und wie verhindern Labore und Aufsicht, dass vertrauliche Entscheidungen über das Tempo für Insiderhandel mit Aktien von Partnern aus Cloud, Rechenzentren und Halbleitern genutzt werden? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-W3-T02 An die Finanz- und Marktaufsicht: Welche gemeinsamen Regeln zur Beobachtung und welche automatischen Handelsstopps würden Regierungen annehmen, um blitzartige Kursstürze durch KI oder abgestimmte Manipulation zu erkennen und zu stoppen, bevor sie sich über Grenzen hinweg ausbreiten? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →