Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
oecd29. Januar 2024 · Q009490

OECD health ministers: people and partnerships are the secret to enabling AI in healthcare

oecd.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der OECD-Bericht sieht in KI Chancen für Diagnose, Prävention, Entlastung des Personals und Forschung, warnt aber vor Datenschutzrisiken, Verzerrungen, unklarer Verantwortung und wachsender Ungleichheit. Er empfiehlt flexible Regulierung, Partnerschaften, bessere Gesundheitsdaten-Governance und internationale Zusammenarbeit, um KI menschenzentriert und verantwortungsvoll einzusetzen.

Mittel

Der Bericht stellt KI als mögliche Hilfe für Gesundheitssysteme dar, die mit steigenden Kosten, einer alternden Bevölkerung, künftigen Krisen und einem prognostizierten Mangel an Fachkräften konfrontiert sind. Als Chancen nennt er unter anderem Unterstützung bei Diagnosen, vorbeugende Maßnahmen, die Automatisierung von Routineaufgaben, bessere Patientengespräche und schnellere Antibiotika-Forschung.

Gleichzeitig warnt die OECD vor Datenschutzproblemen, Verzerrungen durch schlechte Trainingsdaten, unklarer Verantwortung bei schwer nachvollziehbaren Systemen und einer möglichen Verstärkung sozialer Ungleichheit. Aus früheren Erfahrungen mit fragmentierten Gesundheitsdaten und der COVID-19-Reaktion leitet der Text ab, dass Länder eine gemeinsame, tragfähige Grundlage schaffen sollten.

Die OECD empfiehlt vier Handlungsfelder: anpassungsfähige Regeln und Aufsicht, Partnerschaften zwischen öffentlichem und privatem Sektor sowie Betroffenen und Fachkräften, eine bessere Gesundheitsdaten-Governance und internationale Zusammenarbeit. Diese sollen sichere, transparente und menschenzentrierte Anwendungen ermöglichen und zugleich Datenschutz gewährleisten. Die Empfehlungen knüpfen an OECD-Arbeiten und Prinzipien aus den Jahren 2016, 2019 und 2022 sowie an Veröffentlichungen und Erklärungen vom Januar 2024 an. Der Artikel vertritt diese Einschätzungen und Empfehlungen, berichtet aber keine eigenen Vergleichsmessungen zu ihrer Wirkung.

Ausführlich lesen

Der Bericht beschreibt, wie künstliche Intelligenz (KI) aus Sicht der OECD helfen könnte, mehrere Belastungen der Gesundheitssysteme zu bewältigen: steigende Kosten und Nachfrage durch eine alternde Bevölkerung, die Vorbereitung auf künftige Gesundheitskrisen und einen für die OECD-Länder prognostizierten Mangel von 3,5 Millionen Beschäftigten bis 2030. Als mögliche Beiträge von KI nennt der Text die Unterstützung beim Erkennen schwer sichtbarer Auffälligkeiten, vorbeugende Maßnahmen, die Automatisierung von Routine- und Verwaltungsaufgaben, verständlichere Kommunikation mit Patientinnen und Patienten sowie eine beschleunigte Suche nach neuen Antibiotika. Diese Beispiele führt der Bericht als Chancen an.

Zugleich benennt er erhebliche Risiken. Dazu zählen der Schutz sensibler Gesundheitsdaten, Verzerrungen durch mangelhafte Trainingsdaten sowie ethische und rechtliche Fragen bei schwer nachvollziehbaren KI-Systemen in der Versorgung. Außerdem warnt der Text davor, dass vor allem wohlhabende Einrichtungen und Menschen mit ausreichenden finanziellen Mitteln von den Anwendungen profitieren könnten und dadurch bestehende Ungleichheiten wachsen. Die OECD folgert, dass diese Gefahren bearbeitet werden müssen, die Gesundheitssysteme sich aber dennoch aktiv mit KI befassen sollten. Andernfalls könnten unverbundene, eigens entwickelte Lösungen entstehen. Als frühere Erfahrung verweist der Bericht auf die Fragmentierung von Gesundheitsdaten bei der Digitalisierung und auf COVID-19: Länder mit besserer Datengrundlage hätten ihre Reaktion auf die Pandemie besser steuern können.

Der Bericht ordnet die Vorschläge in frühere OECD-Arbeit ein: Die Empfehlung zur Gesundheitsdaten-Governance stammt aus dem Jahr 2016, KI-Prinzipien wurden 2019 entwickelt und ein OECD-Bericht von 2022 untersuchte den Fortschritt der Länder. Die Grundsätze betonen menschenzentrierte Werte, Inklusion, Transparenz, Sicherheit und Rechenschaftspflicht. Ein am 22. Januar 2024 veröffentlichter OECD-Bericht sowie die Erklärung der Gesundheitsminister vom 23. Januar 2024 werden als Anlass genannt, diese Leitlinien in konkrete Maßnahmen zu überführen.

Dafür empfiehlt die OECD vier Bereiche gemeinsamen Handelns. Erstens sollen Regeln und Aufsicht beweglich an die rasche Entwicklung angepasst werden. Vorgesehen sind Standards zu Sicherheit, Qualität, Transparenz, wirtschaftlicher Bewertung, Haftung und Verantwortlichkeit sowie aktualisierte Schutzregeln für Zugang, Privatsphäre und Sicherheit von Gesundheitsdaten. Zweitens sollen öffentliche und private Akteure sowie betroffene Menschen und Gesundheitsfachkräfte partnerschaftlich zusammenarbeiten, damit Datenrechte geschützt und Anwendungen an den Bedürfnissen der Menschen ausgerichtet werden. Drittens soll eine stärkere Daten-Governance verlässliche Daten, bessere Vernetzung zwischen Einrichtungen und skalierbare Lösungen fördern; sie könne laut Bericht zugleich Cyberrisiken sowie Kosten und Komplexität von Innovation mindern. Viertens soll internationale Zusammenarbeit Wissen und bewährte Verfahren verbreiten und die Entwicklung und Ausweitung von Lösungen unterstützen.

Der Text plädiert damit für eine patientenzentrierte Politik sowie geeignete Daten- und technische Grundlagen, die verantwortungsvolle KI ermöglichen und Schutz für alle sichern. Seine Aussagen sind Empfehlungen und Einschätzungen der OECD; der Artikel legt keine eigenen vergleichenden Messungen der genannten KI-Wirkungen oder der vorgeschlagenen Maßnahmen vor.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Stufen und Anteilswerte wurden nicht übernommen, die Einordnung stützt sich allein auf den Berichtstext. Die Zusammenfassung ist im Kern treu, die genannten Lücken sind Auslassungen und keine Erfindungen.

Im Bericht, aber nicht in der Zusammenfassung

  • Das Risiko fragmentierter, verzerrter Einzellösungen, wenn Politik nicht aktiv gestaltet
  • Die Dringlichkeit: Der richtige Zeitpunkt für politisches Handeln zu KI im Gesundheitswesen ist jetzt

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 80 %Hintergrund, keine Belege
    • JEV 61 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 56 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-M4-T04 Wenn Labore rivalisierender Staaten einen gemeinsamen, vertraulichen Meldekanal für Beinahe-Vorfälle einrichteten: Welche Leitungs- und Kontrollstruktur gäbe allen Beteiligten die Gewissheit, dass geteilte Angaben später nicht in einem geopolitischen Streit als Waffe eingesetzt werden? Luna: Stufe 3 · 74 % · Hintergrund, keine Belege
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-M5-T01 Verlangen Staaten von einem Labor, beim Verdacht auf Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) sofort den Zustand des Systems zu sichern, also Protokolle, Modellgewichte (die gelernten Parameter) und den Stand der Trainingsdaten, und zu veröffentlichen, dass es das getan hat, bevor Zeit und erneutes Training die einzigen Beweise löschen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-M5-T07 Würden Regierungen gemeinsame Mindestregeln für Abhilfe annehmen, wenn ein in einem Land eingesetztes KI-System in einem anderen nachweisbaren Schaden verursacht (Untersuchungsrechte, Sicherung von Beweisen, Zuständigkeit, Entschädigung), und würden dieselben Regeln auch gelten, wenn der Vorfall von einem Labor in einem Drittstaat ausgeht? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-M5-T08 Welchen gemeinsamen Mindeststandard für Versicherung oder finanzielle Verantwortung würden Staaten für Einsätze der leistungsstärksten KI-Modelle annehmen, die grenzüberschreitende Schäden verursachen, und wie wäre er zu bemessen, damit er Sicherheit in die Kosten der Skalierung einpreist, ohne zu einer Auflagen-Hürde zu werden, die nur die zwei größten Labore nehmen können? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 28 %gleiches Oberthema, hilft nicht
    • JEV 40 %nur am Rande erwähnt
    • amos 25 %Hintergrund, keine Belege
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 50 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 52 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-P1-T03 Wenn eine Sicherheitsvereinbarung verlangt, Prüfergebnisse, Angaben aus Modellsteckbriefen oder die Forensik von Vorfällen zwischen den Partnern zu teilen: Welches kleinste Datenfeld müsste jeder Partner sehen, um dem Bericht eines anderen zu trauen, und auf welches größte würde er verzichten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-P5-T02 Könnten Staaten gemeinsame Kennzahlen und Vergleichsmaßstäbe für den Fortschritt bei ihren Transparenzzusagen veröffentlichen, mit vereinbarten Prüfabständen, damit die Öffentlichkeit beurteilen kann, ob ihre Gespräche messbare Ergebnisse für die Sicherheit bringen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-P5-T04 Welche Gestaltung würde KI-Zusagen zwischen Staaten über Wahlen, Führungswechsel und diplomatische Brüche hinweg tragen, und würde eine Regierung einen Mechanismus annehmen, der ihre Nachfolger bindet? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 55 %Hintergrund, keine Belege
    • JEV 58 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 87 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 48 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 46 %gleiches Oberthema, hilft nicht
    • JEV 36 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 85 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 72 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 46 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 63 %Hintergrund, keine Belege
    • JEV 48 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-A2-T03 Welcher Standard für Widerstandsfähigkeit soll einen geprüften Ersatzweg ohne KI verlangen und die menschlichen Fähigkeiten erhalten, Fehler zu erkennen und zu beherrschen, wenn ein kritischer Dienst stark von Modellen abhängig wird? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-A3-T05 Wie sollen Aufsichtsbehörden und Labore die Gesamtrisiken und die miteinander verknüpften Risiken tausender einzeln genehmigter Einsätze bewerten, die Infrastruktur, Modelle, Datenquellen oder Fehlerarten teilen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-H3-T05 Wenn ein Modell nacheinander von Laboren in verschiedenen Rechtsordnungen feinjustiert, mit anderen Modellen zusammengeführt oder destilliert wird (ein weiteres Modell wird mit seinen Ausgaben trainiert) und jede Stufe Fähigkeiten hinzufügen oder Schutzvorkehrungen entfernen kann: Welches gemeinsame Herkunftsregister, das sich nur ergänzen und nicht ändern lässt, verfolgt eine Gefahr bis zu der Änderung zurück, die sie brachte, ohne die vollständigen Trainingsdaten eines einzelnen Labors zu verlangen? Und wenn dabei ein Verhalten entsteht, das keines der Ursprungslabore vorhergesehen hat: Welche Register- oder Vorabmeldepflicht gilt vor dem Einsatz, und welcher Staat ist bei grenzüberschreitendem Schaden zuständig? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 60 %einzelne zitierbare Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 24 %Hintergrund, keine Belege
    • Luna 47 %einzelne zitierbare Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 25 %nur am Rande erwähnt
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 4 · 48 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 25 %Hintergrund, keine Belege
    • Luna 72 %einzelne zitierbare Belege
    • JEV 51 %beantwortet teilweise oder widerspricht
    • amos 38 %einzelne zitierbare Belege
    • SubQ 31 %einzelne zitierbare Belege
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra 29 %Hintergrund, keine Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-E2-T07 Würden Regierungen ein gemeinsam finanziertes, offenes internationales Forschungsprogramm zu Problemen der Ausrichtung von KI an vorgesehenen Zielen und Werten (Täuschungserkennung, Wertelernen, skalierbare Aufsicht) unterstützen, mit gemeinsamen Vergleichstests und Veröffentlichung, nach dem Vorbild der Europäischen Organisation für Kernforschung (CERN) oder der Internationalen Atomenergie-Organisation (IAEO)? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 45 %einzelne zitierbare Belege
    • JEV 47 %Hintergrund, keine Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 78 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 24 %nur am Rande erwähnt
    • Luna 69 %einzelne zitierbare Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 34 %einzelne zitierbare Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 35 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 46 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →