Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
euohne Datum · Q001006

Guidelines for providers and deployers of AI high-risk systems

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt unverbindliche EU-Leitlinienentwürfe, die Anbietern und Betreibern bei der Einstufung von KI als Hochrisiko helfen sollen; die Beispiele darin sind nicht abschließend. Er nennt Anwendungsdaten ab Dezember 2027 beziehungsweise August 2028 und sagt, Rückmeldungen aus einer bis zum 23. Juli 2026 geöffneten Konsultation sollten in die endgültige Fassung einfließen.

Mittel

Der Bericht stellt Entwürfe der Europäischen Kommission für Leitlinien zur Einstufung von KI-Systemen als Hochrisiko vor. Sie sollen Anbietern und Betreibern Orientierung geben. Die Leitlinien sind laut Bericht rechtlich nicht bindend, spiegeln aber die Auslegung der Kommission wider und sollen die Durchsetzung unterstützen. Die aufgeführten Beispiele sollen viele Anwendungsbereiche abdecken, sind jedoch nicht vollständig und können aktualisiert werden.

Bestimmte KI-Einsatzfälle gelten dem Bericht zufolge als Hochrisiko, wenn sie Gesundheit, Sicherheit oder Grundrechte gefährden. Für solche Systeme gelten besondere Anforderungen und Pflichten. Nach der im Bericht erwähnten politischen Einigung zum „AI Omnibus“ sollen die Regeln für bestimmte Bereiche wie Biometrie, kritische Infrastruktur, Bildung und Beschäftigung ab dem 2. Dezember 2027 gelten. Für Systeme in Produkten wie Robotik und Industriemaschinen wird der 2. August 2028 genannt. Eine gezielte Konsultation zum Entwurf war laut Text bis zum 23. Juli 2026 geöffnet; Rückmeldungen sollten vor der Annahme der endgültigen Leitlinien berücksichtigt werden. Einzelne Einstufungskriterien oder der spätere Verfahrensstand werden nicht ausgeführt.

Ausführlich lesen

Der Bericht beschreibt Entwürfe der Europäischen Kommission für Leitlinien, die Anbietern und Betreibern dabei helfen sollen, einzuschätzen, ob ein KI-System als Hochrisiko-System einzustufen ist. Die Kommission erklärt, sie habe Rückmeldungen aus einer öffentlichen Konsultation und Beiträge der Mitgliedstaaten über den AI Board berücksichtigt. Die Leitlinien sind laut Bericht rechtlich nicht bindend; sie geben jedoch die Auslegung der Kommission wieder und sollen die Durchsetzung unterstützen. Weitere Leitlinien sollen später die Einhaltung der Pflichten für Hochrisiko-KI erleichtern. Der Entwurf wird auf der Informationsplattform zum AI Act in nutzerfreundlicher Form dargestellt.

Der Bericht nennt Beispiele, die möglichst viele Bereiche und Anwendungsfälle abdecken sollen. Diese Liste sei ausdrücklich nicht vollständig und könne mit der Zeit aktualisiert werden. Die Leitlinien sollen damit bei der Einstufung helfen, aber keine abschließende Aufzählung aller Hochrisiko-Anwendungen liefern.

Als Hochrisiko gelten laut Bericht bestimmte begrenzte Einsatzfälle, wenn sie Gesundheit, Sicherheit oder Grundrechte gefährden. Anbieter und Betreiber solcher Systeme müssen Anforderungen und Pflichten erfüllen, damit die Systeme vertrauenswürdig sind. Der Bericht verknüpft die Termine für die Anwendung der Regeln mit einer politischen Einigung zum „AI Omnibus“: Für Systeme in bestimmten Hochrisikobereichen – darunter Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration, Asyl und Grenzkontrolle – sollen die Regeln ab dem 2. Dezember 2027 gelten. Für KI-Systeme, die in Produkte wie Robotik und Industriemaschinen integriert sind, nennt der Bericht den 2. August 2028.

Außerdem berichtet die Seite von einer gezielten Konsultation zum Entwurf, die laut Text bis zum 23. Juli 2026 offen ist. Eingegangene Rückmeldungen sollen vor der Annahme der endgültigen Leitlinien durch die Kommission eingearbeitet werden. Der Bericht erläutert weder die konkreten Kriterien zur Einstufung im Einzelnen noch den späteren Stand der Konsultation oder eine erfolgte Annahme. Die genannten Fristen und der Konsultationsstatus werden daher als Angaben des Berichts wiedergegeben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Anteilswerte in Lunas Einordnung wurden nicht geprüft; bewertet wurde nur, wie stark der Bericht jede Frage beantwortet. Die Zusammenfassung ist im Kern richtig, lässt aber die Hochrisiko-Definition in der Kurzfassung aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kurzfassung nennt nicht, wann ein System als Hochrisiko gilt (Gefährdung von Gesundheit, Sicherheit oder Grundrechten).
  • Die Pflichten für Anbieter und Betreiber von Hochrisiko-Systemen werden nur allgemein erwähnt.
  • Der Bericht kündigt an, dass ergänzende Leitlinien zur Erfüllung der Pflichten folgen sollen; das fehlt in beiden Fassungen.
  • Die Plattform AI Act Single Information, auf der die Entwürfe verständlich aufbereitet sind, wird in keiner Fassung genannt.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 39 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 27 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 31 %Hintergrund, keine Belege
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 82 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV offen
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 84 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 22 %einzelne zitierbare Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 37 %einzelne zitierbare Belege
    • SubQ 44 %einzelne zitierbare Belege
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra 50 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 26 %Hintergrund, keine Belege
    • Luna 43 %einzelne zitierbare Belege
    • JEV offen
    • amos 34 %einzelne zitierbare Belege
    • SubQ 29 %Hintergrund, keine Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 42 %Hintergrund, keine Belege
    • Haiku-Prüfung Hintergrund, keine Belege

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %nur am Rande erwähnt
    • Luna 37 %einzelne zitierbare Belege
    • JEV offen
    • amos 25 %Hintergrund, keine Belege
    • SubQ 24 %nur am Rande erwähnt
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 35 %nur am Rande erwähnt
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 30 %nur am Rande erwähnt
    • SubQ 26 %einzelne zitierbare Belege
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →