Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
euohne Datum · Q001116

AI Act Whistleblower Tool

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Die Seite beschreibt ein anonym nutzbares Hinweisgebertool des AI Office für mutmaßliche AI-Act-Verstöße durch Anbieter von GPAI-Modellen oder bestimmten KI-Systemen. Meldungen können in jeder EU-Sprache eingereicht und über einen sicheren Posteingang weiterverfolgt werden; das AI Office erklärt, die Vertraulichkeit und den Identitätsschutz zu sichern. Ein separates Tool ist für Beschwerden vorgesehen. Angaben zu Fallzahlen oder Wirksamkeit fehlen.

Mittel

Der Bericht stellt ein vom AI Office eingerichtetes Hinweisgebertool zum AI Act vor. Hinweisgebende sollen mögliche schädliche Praktiken oder Rechtsverstöße melden können, die Grundrechte, Gesundheit oder das Vertrauen der Öffentlichkeit gefährden könnten. Das Tool richtet sich an Personen mit beruflicher Verbindung zu Anbietern von GPAI-Modellen oder zu KI-Systemen im Zuständigkeitsbereich der Durchsetzung durch das AI Office.

Meldungen sind laut Seite anonym, in jeder EU-Sprache und mit unterstützenden Dokumenten möglich. Ein sicherer Posteingang soll den Austausch über Rückfragen und die Verfolgung des Bearbeitungsstands ermöglichen, ohne die Anonymität aufzugeben. Das AI Office erklärt, Vertraulichkeit zu gewährleisten und interne Verfahren zum bestmöglichen Schutz der Identität dokumentiert zu haben.

Ein separates Beschwerdetool nimmt Beschwerden über mutmaßliche Verstöße von KI-Systemanbietern entgegen, soweit diese in den Durchsetzungsbereich des AI Office fallen. Die Seite nennt keine Fallzahlen, Wirksamkeitsbewertung oder näheren Verfahrensdetails. Sie wurde zuletzt am 6. Oktober 2026 aktualisiert.

Ausführlich lesen

Der Bericht beschreibt die Rolle von Hinweisgebenden bei der Aufdeckung möglicher Verstöße gegen den AI Act. Nach Darstellung der Seite können solche Verstöße Grundrechte, Gesundheit oder das Vertrauen der Öffentlichkeit gefährden und andernfalls unentdeckt bleiben. Meldungen sollen das AI Office dabei unterstützen, mögliche Probleme frühzeitig zu erkennen und so zur sicheren und transparenten Entwicklung von KI beizutragen.

Das AI Act Whistleblower Tool wurde laut Bericht vom AI Office eingerichtet. Es richtet sich an Personen, die beruflich mit Anbietern von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) oder mit KI-Systemen verbunden sind, die in den Zuständigkeitsbereich der Durchsetzung durch das AI Office fallen. Über das Tool können sie schädliche Praktiken oder andere mutmaßliche Verstöße gegen den AI Act melden. Meldungen können anonym, in einer beliebigen EU-Sprache und mit unterstützenden Dokumenten eingereicht werden. Ein sicherer Posteingang soll es ermöglichen, den Bearbeitungsstand zu verfolgen und auf Rückfragen zu antworten, ohne die Anonymität aufzugeben.

Das AI Office erklärt laut Seite, neben dem sicheren Meldewerkzeug hohe Vertraulichkeit anzustreben und interne Verfahren dokumentiert zu haben, die den Schutz der Identität von Hinweisgebenden maximieren sollen. Der Bericht erläutert jedoch nicht, wie diese Schutzmaßnahmen im Einzelnen funktionieren oder welche Ergebnisse und Bearbeitungszeiten das Verfahren hat.

Daneben verweist die Seite auf ein separates AI Act Complaints Tool. Dieses bearbeitet Beschwerden über mutmaßliche Verstöße durch Anbieter von KI-Systemen, soweit diese unter die Durchsetzungsbefugnisse des AI Office fallen. Die Seite grenzt damit ein Hinweisgebersystem für beruflich verbundene Personen von einem Beschwerdeweg ab. Sie liefert keine konkreten Fallzahlen, Bewertungen der Wirksamkeit oder weiteren Angaben zu den Verfahrensschritten. Als letzte Aktualisierung nennt sie den 6. Oktober 2026.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die beiden Zusammenfassungen von Luna sind sachlich korrekt und ohne Erfindungen. Luna überschätzt bei den Sammel- und Teilfragen zu Schutz, Meldeformaten und Offenlegung die Antwortstärke, weil die Seite nur ein allgemeines Meldetool des AI Office beschreibt.

Im Bericht, aber nicht in der Zusammenfassung

  • Das Ziel, dass das AI Office durch Hinweise Verstöße früh erkennen kann und so zur sicheren und transparenten Entwicklung von KI beiträgt, wird in beiden Zusammenfassungen nicht genannt.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 38 %einzelne zitierbare Belege
    • JEV offen
    • amos 27 %beantwortet teilweise oder widerspricht
    • SubQ 43 %beantwortet direkt und ausführlich
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra 42 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-M4-T01 Welches gemeinsame Meldeformat und welcher geschützte Kanal ließen Labore Fehler nachstellen und Korrekturen prüfen, ohne private Daten oder gefährliche technische Details preiszugeben? Und könnte sich die Branche über Grenzen hinweg auf einen Standard für das Melden KI-gestützter Einbrüche und Datenabflüsse einigen, damit eine Eskalation gemessen und nicht nur behauptet wird? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-M4-T02 Wie sähen Selbstkontrolle und Informationsaustausch zwischen Laboren verschiedener Staaten praktisch aus (eine gemeinsame Vorlage für Vorfallberichte, gemeinsame Übungen oder ein gemeinsames Register), und wer dürfte die Berichte sehen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-M4-T06 Was müssen nachgelagerte Betreiber und Nutzer melden, wenn ein eingesetztes Modell ein Anzeichen von Fehlausrichtung zeigt (Verhalten gegen die vorgesehenen Ziele oder Werte), das sein Trainingslabor als nicht offenzulegen einstuft? Und an wen: den Meldekanal zwischen den Staaten, das Aufsichtsgremium des Labors oder die Eskalation an seine Leitung? Luna: Stufe 4 · 22 % · einzelne zitierbare Belege
  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-M5-T04 Zählen Meldungen, die ein eingesetztes Modell selbst auslöst oder die von externen Nutzern kommen, die bedenkliches Verhalten beobachtet haben, im Offenlegungsverfahren des Labors, und muss jede eine begründete Antwort bekommen? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 24 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV offen
    • amos 54 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 28 %beantwortet teilweise oder widerspricht
    • Luna 57 %beantwortet teilweise oder widerspricht
    • JEV offen
    • amos 34 %beantwortet teilweise oder widerspricht
    • SubQ 61 %beantwortet direkt und ausführlich
    • drex 50 %beantwortet direkt und ausführlich
    • d3-ultra 51 %beantwortet direkt und ausführlich
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-O1-T02 Welchen konkreten Schutz (Weiterbeschäftigung, Rechtsbeistand, Aufenthaltsstatus, Erhalt ihrer dokumentierten wissenschaftlichen Leistungen) bieten Spitzenlabore Forschenden, Ingenieurinnen und Ingenieuren sowie im Labor eingebetteten Prüfern, die ein Projekt für zu gefährlich halten, um es fortzusetzen? Gilt er für Menschen ohne die Staatsbürgerschaft des Landes, in dem das Labor sitzt, genauso wie für dessen Staatsangehörige, damit niemand wegen gemeldeter Sicherheitsbedenken abgeschoben oder kaltgestellt werden kann? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-O1-T03 Wenn Forschende oder Ingenieurinnen und Ingenieure eines Spitzenlabors schwere Verstöße gegen Fähigkeitsschwellen oder heimliche Bewaffnung entdecken und die Laborleitung sowie nationale Sicherheitsbehörden das aktiv unterdrücken: Schafft die Staatengemeinschaft einen anerkannten, rechtlich geschützten Weg zur Offenlegung und einen Weg zu Asyl? Luna: Stufe 4 · 25 % · einzelne zitierbare Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 26 %nur am Rande erwähnt
    • Luna 58 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 39 %nur am Rande erwähnt
    • Haiku-Prüfung einzelne zitierbare Belege
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →