Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
eu22. Mai 2026 · Q001611

Report on the review of prohibitions and high-risk AI

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist ein Auszug, der die jährliche Überprüfung der Verbote und Hochrisiko-Listen im KI-Gesetz beschreibt. Laut Auszug sind die Erkenntnisse noch vorläufig, weil praktische Erfahrung und teils noch anwendbare Durchsetzungsregeln fehlen; als mögliche Lücke werden Systeme zur Erzeugung sexuellen Kindesmissbrauchsmaterials und nicht einvernehmlicher intimer Inhalte untersucht. Weitere Erkenntnisse sollen unter anderem aus Einstufungsleitlinien, Regulierungssandkästen und einer Konsultation kommen.

Mittel

Der vorliegende Text ist ein Auszug aus einer Seite der Europäischen Kommission, nicht der vollständige Bericht. Er erläutert die jährliche Überprüfung nach Artikel 112 Absatz 1 des KI-Gesetzes: Die Kommission prüft, ob die Verbote bestimmter KI-Praktiken oder die Liste der Hochrisiko-Anwendungsfälle angepasst werden müssen. Dafür wurden Mitgliedstaaten und weitere Interessengruppen über den KI-Ausschuss und eine öffentliche Konsultation einbezogen.

Als mögliches Regelungsdefizit nennt der Auszug KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmliche intime Inhalte erzeugen. Die Kommission untersuche dies weiter; eine politische Einigung zum KI-Omnibus vom 7. Mai 2026 sehe ein Verbot solcher Systeme vor. Die Bewertung weiterer schädlicher Praktiken sei noch früh: Die Verbote gelten laut Text seit dem 2. Februar 2025, Durchsetzungsregeln seien aber noch nicht anwendbar, und praktische Erfahrung fehle. Eine gründlichere Beurteilung werde nach mindestens einem Jahr Anwendung möglich.

Für die Bewertung von Hochrisiko-KI seien außerdem die angekündigten Einstufungsleitlinien und praktische Erfahrungen wichtig. Regulierungssandkästen könnten zusätzliche Erkenntnisse liefern. Bestimmte Systeme seien für spätere Prüfungen vorgemerkt, werden im Auszug aber nicht benannt. Die Ergebnisse einer gezielten Konsultation zu den Leitlinien sollen in die Überprüfung des Folgejahres einfließen.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus einer Seite der Europäischen Kommission, nicht der vollständige Bericht selbst. Er beschreibt eine jährliche Überprüfung nach Artikel 112 Absatz 1 des KI-Gesetzes. Dabei soll geprüft werden, ob die Liste der Hochrisiko-Anwendungsfälle in Anhang III oder die Verbote bestimmter KI-Praktiken in Artikel 5 geändert werden müssen. Die Kommission kann Änderungen vorschlagen, damit die Regeln angesichts der technologischen Entwicklung relevant und wirksam bleiben.

Laut Auszug stützte sich die Überprüfung auf eine objektive und beteiligungsorientierte Methode. Mitgliedstaaten und weitere Interessengruppen lieferten Beiträge über den KI-Ausschuss und eine öffentliche Konsultation. Der Text nennt als mögliches Regelungsdefizit KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmliche intime Inhalte erzeugen. Die Kommission analysiere diese Frage weiter. Zugleich verweist der Auszug auf eine politische Einigung zum KI-Omnibus vom 7. Mai 2026, die ein Verbot von Systemen zur Erzeugung nicht einvernehmlicher expliziter oder intimer Inhalte sowie von Darstellungen sexuellen Kindesmissbrauchs vorsehe, etwa bei sogenannten Nudification-Apps.

Die Kommission bewertet die Erkenntnisse zu weiteren besonders schädlichen und missbräuchlichen Praktiken laut Text noch als vorläufig. Die Verbote gelten demnach seit dem 2. Februar 2025, während die Durchsetzungsregeln noch nicht anwendbar seien. Zudem fehle praktische Erfahrung mit den Verboten. Eine vertiefte Bewertung von Artikel 5 werde erst möglich, wenn die Verbote mindestens ein Jahr angewandt worden seien und sich gemeinsame Probleme oder Regelungslücken abzeichneten.

Auch die Bewertung der Vorschriften für Hochrisiko-KI sei laut Auszug noch von künftigen Entwicklungen abhängig: Sie werde erleichtert, sobald Leitlinien der Kommission zur Einstufung solcher Systeme veröffentlicht seien und praktische Erfahrungen vorlägen. Regulierungssandkästen könnten außerdem beim Lernen und Sammeln von Belegen helfen. Auf Grundlage der bisher erhobenen Erkenntnisse habe die Kommission bestimmte KI-Systeme für weitere Beobachtung und Analyse in späteren Überprüfungen vorgemerkt; der Auszug nennt diese Systeme jedoch nicht. Als nächsten Schritt führt er eine gezielte Konsultation zu einem Entwurf der Leitlinien zur Einstufung von Hochrisiko-KI an. Deren Ergebnisse sollen in die Überprüfung des Folgejahres einfließen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 26 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht
  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 25 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 28 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 28 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 88 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 86 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 27 %Hintergrund, keine Belege
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 33 %Hintergrund, keine Belege

Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 23 %nur am Rande erwähnt
    • Luna 49 %Hintergrund, keine Belege
    • JEV 60 %einzelne zitierbare Belege
    • amos 38 %einzelne zitierbare Belege
    • SubQ 43 %einzelne zitierbare Belege
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra 60 %einzelne zitierbare Belege

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 24 %Hintergrund, keine Belege
    • Luna 52 %Hintergrund, keine Belege
    • JEV 43 %umfangreiche Belege
    • amos 34 %einzelne zitierbare Belege
    • SubQ 27 %Hintergrund, keine Belege
    • drex 34 %Hintergrund, keine Belege
    • d3-ultra 42 %Hintergrund, keine Belege

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %nur am Rande erwähnt
    • Luna 39 %Hintergrund, keine Belege
    • JEV 30 %nur am Rande erwähnt
    • amos 27 %Hintergrund, keine Belege
    • SubQ 25 %nur am Rande erwähnt
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra 37 %nur am Rande erwähnt
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 60 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 35 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 31 %einzelne zitierbare Belege
    • drex 33 %einzelne zitierbare Belege
    • d3-ultra 39 %nur am Rande erwähnt

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 31 %nur am Rande erwähnt
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →