Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
euohne Datum · Q002549

Guidelines and Code of Practice on transparent AI systems

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der EU-Bericht erläutert, wie Artikel 50 des AI Act Transparenz über KI-Interaktionen und bestimmte KI-generierte oder manipulierte Inhalte schaffen soll, und beschreibt dafür mögliche Kennzeichnungsverfahren sowie einen freiwilligen Verhaltenskodex. Die genannten Fristen und Wirkungen sind Kommissionsdarstellungen beziehungsweise damalige Planungen; der Text bestätigt nicht, ob der Kodex später fertiggestellt oder angenommen wurde.

Mittel

Der Bericht einer offiziellen EU-Website erläutert die Transparenzpflichten aus Artikel 50 des AI Act und die geplanten Leitlinien sowie einen Verhaltenskodex für transparente KI-Systeme. Laut Kommission sollen die Pflichten Menschen helfen, KI-Interaktionen und KI-generierte oder manipulierte Inhalte zu erkennen und so Risiken wie Täuschung, Identitätsmissbrauch und Desinformation zu mindern.

Der Text nennt vier Bereiche: Hinweise bei Interaktionen mit KI, maschinenlesbare Kennzeichnung KI-generierter oder manipulierter Inhalte, Information bei Emotionserkennung und biometrischer Kategorisierung sowie Hinweise auf bestimmte Deepfakes und öffentliche Textveröffentlichungen. Als mögliche Verfahren werden unter anderem Wasserzeichen, Metadaten, kryptografische Nachweise, Protokollierung und Fingerabdrücke aufgeführt. Sie sollen technisch machbar zuverlässig, interoperabel, wirksam und robust sein.

Der freiwillige Kodex soll praktische Maßnahmen zu Teilen von Artikel 50 ausarbeiten; die Kommissionsleitlinien sollen den gesamten Artikel erläutern. Der Kodex ist laut Bericht auf Ausgaben und Transparenz gegenüber betroffenen Personen ausgerichtet und ergänzt den Kodex für allgemeine KI-Modelle, der andere Transparenzfragen behandelt. Die Kommission plante damals einen Entwurfsprozess bis spätestens Anfang Juni 2026. Der Bericht beschreibt Planungen und beabsichtigte Wirkungen, belegt aber nicht den späteren Verlauf oder eine endgültige Annahme.

Ausführlich lesen

Der Bericht ist ein Fragen-und-Antworten-Text einer offiziellen EU-Website zu den Transparenzpflichten aus Artikel 50 des AI Act und zur geplanten Leitlinie sowie zum Verhaltenskodex für transparente KI-Systeme. Er begleitet eine Konsultation und einen Aufruf zur Interessenbekundung. Die Aussagen geben die Darstellung der Europäischen Kommission wieder.

Die Kommission begründet die Pflichten damit, dass leistungsfähige KI zunehmend Inhalte erzeugen oder verändern kann, die schwer von menschlich erstellten oder authentischen Inhalten zu unterscheiden sind. Laut Bericht erhöht das Risiken wie Desinformation, Manipulation, Betrug, Identitätsmissbrauch und Täuschung von Verbraucherinnen und Verbrauchern. Transparenz soll diesen Risiken entgegenwirken: Menschen sollen erkennen können, ob sie mit einem KI-System interagieren oder KI-generierte Inhalte sehen, und dadurch fundiertere Entscheidungen treffen.

Der Bericht beschreibt vier Anwendungsbereiche von Artikel 50: Anbieter interaktiver KI-Systeme sollen Menschen über die Interaktion mit KI informieren, sofern dies nicht offensichtlich ist. Anbieter von KI-generierten oder manipulierten Inhalten sollen deren Erkennbarkeit ermöglichen und sie maschinenlesbar kennzeichnen. Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen sollen betroffene Personen informieren. Betreiber von Systemen, die Deepfakes oder bestimmte KI-generierte beziehungsweise manipulierte Texte zu Fragen öffentlichen Interesses erzeugen, sollen auf den künstlichen Ursprung hinweisen; der Bericht erwähnt dafür definierte Ausnahmen. Informationen sollen klar und zugänglich sein.

Als mögliche Kennzeichnungs- und Erkennungsmethoden nennt der Text Wasserzeichen, Metadaten, kryptografische Herkunfts- und Echtheitsnachweise, Protokollierung, Fingerabdrücke und weitere Verfahren. Solche Methoden sollten laut Kommission technisch machbar zuverlässig, interoperabel, wirksam und robust sein. Dabei seien Unterschiede zwischen Inhaltstypen, technische Grenzen sowie technologische und marktbezogene Entwicklungen zu berücksichtigen. Die Ermittlung neuer Verfahren und Praktiken soll Teil der Arbeit am Kodex sein.

Der geplante Kodex wird als freiwilliges Instrument beschrieben. Er soll praktische Umsetzungsmaßnahmen zu den Pflichten aus Artikel 50 Absatz 2 und 4 liefern. Wird er von der Kommission als angemessen anerkannt, können sich die Unterzeichnenden laut Bericht auf ihn stützen, um die Einhaltung nachzuweisen; die Kommission wolle bei ihnen die Befolgung des Kodex überwachen. Die Leitlinien sollen dagegen Artikel 50 insgesamt behandeln und Anwendungsbereich, Rechtsbegriffe, Pflichten, Ausnahmen und horizontale Fragen erläutern. Der Kodex soll technische Umsetzungsmittel aus einem Prozess mit Anbietern, Betreibern, kleinen und mittleren Unternehmen, Zivilgesellschaft, Wissenschaft und weiteren Beteiligten hervorbringen.

Der Bericht grenzt diesen Kodex vom Kodex für Modelle mit allgemeinem Verwendungszweck ab: Letzterer betreffe vor allem Modelle, Dokumentation, Informationen für Behörden und nachgelagerte Anbieter sowie Trainingsdaten. Der Transparenzkodex solle dagegen die Kennzeichnung von Ausgaben und deren Transparenz gegenüber den betroffenen Personen behandeln, auf Systemebene und auch für Systeme auf Basis allgemeiner Modelle.

Als damalige Planung nennt der Text ein Auftakttreffen Anfang November und einen Abschluss des Entwurfsprozesses spätestens Anfang Juni 2026. Er nennt außerdem den 9. Oktober als Frist zur Interessenbekundung, ohne im vorliegenden Text das Jahr zu präzisieren. Der Bericht belegt weder den späteren Verlauf noch die endgültige Annahme oder Wirksamkeit des Kodex; die Zeitangaben sind als angekündigte Erwartungen wiedergegeben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Einordnung stützt sich nur auf den Bericht; Lunas Anteilsangaben wurden nicht übernommen, und bei SF-I1 und SF-E1 weicht die Stufe von Luna ab.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kommission will die Durchsetzung auf die Überwachung der Einhaltung des Kodex ausrichten, und Unterzeichner können den Kodex zum Nachweis der Konformität nutzen
  • Die Beteiligung: Interessenbekundung bis 9. Oktober, Eröffnungsplenum Anfang November und Auswahl von Vorsitzenden der Arbeitsgruppen durch das AI Office

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV offen
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 23 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 27 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 26 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV offen
    • amos 100 %kein Bezug
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV offen
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 60 %einzelne zitierbare Belege
    • JEV offen
    • amos 26 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 59 %einzelne zitierbare Belege
    • JEV offen
    • amos 34 %einzelne zitierbare Belege
    • SubQ 45 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 54 %nur am Rande erwähnt

    • SF-H3-T02 Welche gemeinsamen Prüfstandards und Verfahren zum Herkunftsnachweis erkennen versteckte Verhaltensauslöser und eine systemweite Verschlechterung der Ausrichtung an den vorgesehenen Zielen und Werten, wenn Training immer mehr auf synthetischen Daten anderer Spitzenmodelle beruht? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 22 %beantwortet teilweise oder widerspricht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 26 %nur am Rande erwähnt
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 22 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 24 %einzelne zitierbare Belege
    • Luna 63 %einzelne zitierbare Belege
    • JEV offen
    • amos 31 %einzelne zitierbare Belege
    • SubQ 43 %einzelne zitierbare Belege
    • drex 33 %einzelne zitierbare Belege
    • d3-ultra 54 %einzelne zitierbare Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 24 %Hintergrund, keine Belege
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 28 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %nur am Rande erwähnt
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 27 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 23 %Hintergrund, keine Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 75 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 27 %nur am Rande erwähnt
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 25 %einzelne zitierbare Belege
    • SubQ 32 %einzelne zitierbare Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 23 %einzelne zitierbare Belege
    • Luna 69 %einzelne zitierbare Belege
    • JEV offen
    • amos 34 %beantwortet teilweise oder widerspricht
    • SubQ 53 %beantwortet direkt und ausführlich
    • drex 51 %beantwortet direkt und ausführlich
    • d3-ultra 57 %umfangreiche Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →