Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
euohne Datum · Q002259

Shaping Europe’s digital future

digital-strategy.ec.europa.eu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Collibra schult Beschäftigte im verantwortungsvollen KI-Einsatz, stellt ein internes Informationsportal bereit und verlangt bei wesentlichen Risiken eine Prüfung durch die Rechtsabteilung. Das Unternehmen berichtet von besser dokumentierten KI-Anwendungsfällen und einer ISO-42001-Zertifizierung; als nächste Risiken nennt es KI-Agenten und mögliche Datenlecks. Unabhängige Wirkungsdaten und Einzelheiten zur Wirksamkeit geplanter Kontrollen werden nicht aufgeführt.

Mittel

Der Bericht schildert Collibras Maßnahmen zur KI-Kompetenz in einem großen niederländischen ICT-Unternehmen. Ein internes KI-Portal und verpflichtende Online-Schulungen informieren alle Beschäftigten über genehmigte Werkzeuge, deren Einsatz und Risiken. Bei der Risikoeinschätzung sollen unter anderem Datenarten, mögliche Folgen für geschäftliche Entscheidungen oder Personen, Nutzererfahrung, menschliche Aufsicht und Schutzmaßnahmen berücksichtigt werden. Einsätze oberhalb einer wesentlichen Risikoschwelle müssen laut Bericht von der Rechtsabteilung geprüft und genehmigt werden. Weitere Schulungsinhalte betreffen neue KI-Funktionen in bestehenden Plattformen; technische Teams erhalten zusätzliche Anleitung, Ingenieurinnen und Ingenieure zu Tests und Überwachung generativer KI-Produkte.

Collibra berichtet, Beschäftigte könnten Anwendungsfälle besser einordnen und wüssten, wann sie eine rechtliche Prüfung benötigen. Die Dokumentation und Überwachung wesentlicher KI-Einsätze sei verbessert worden. Das Unternehmen führt seine Maßnahmen auch als Beitrag zur Einhaltung globaler Regelwerke an und gibt an, eine ISO-42001-Zertifizierung für KI-Governance erhalten zu haben. Als neue Herausforderung nennt es KI-Agenten, die Daten zwischen Anwendungen verbinden und dadurch Lecks in nicht genehmigte Anwendungen begünstigen könnten. Geplant seien Aufklärung und technische Kontrollen. Die Aussagen stammen aus einem einzelnen Unternehmensbeispiel; unabhängige Wirkungsdaten oder Details zur Wirksamkeit der geplanten Kontrollen enthält der Bericht nicht.

Ausführlich lesen

Der Bericht stellt Collibra als Beispiel für betriebliche KI-Kompetenzmaßnahmen vor. Das niederländische SaaS-Unternehmen für Data Governance wird als großer ICT-Anbieter und Anwender von KI-Systemen beschrieben. Es bietet allen Beschäftigten Informationen, Orientierung und Schulungen dazu, wie sie KI verantwortungsvoll einsetzen, die Produktivität unterstützen und Risiken erkennen und mindern können. Diese Angebote ergänzen allgemeine Pflichtschulungen zu Vertraulichkeit, Sicherheit, Datenschutz, geistigem Eigentum, Grundrechten, Ethik und Verzerrungen.

Ein unternehmensinternes KI-Portal informiert Beschäftigte darüber, welche Werkzeuge die Rechtsabteilung genehmigt hat, wie sie eingesetzt werden können und welche Risiken zu beachten sind. Hinzu kommen verpflichtende Online-Module von etwa 30 Minuten. Collibra vermittelt außerdem, wie Beschäftigte den Risikograd eines KI-Einsatzes einschätzen sollen. Berücksichtigt werden dabei unter anderem die Art der Daten, mögliche Auswirkungen auf geschäftliche Entscheidungen oder einzelne Personen, die Erfahrung der nutzenden Person, die menschliche Aufsicht sowie Schutzmaßnahmen gegen Missbrauch. Überschreitet ein Einsatz eine wesentliche Risikoschwelle, soll die Rechtsabteilung ihn prüfen und genehmigen.

Die Schulungen behandeln auch neue KI-Funktionen in bereits genutzten Plattformen und sollen Beschäftigten helfen, dafür eine rechtliche Freigabe einzuholen. Der Bericht bezeichnet „Shadow AI“ weiterhin als Risiko, berichtet aber, die Schulungen hätten es gemindert. Technische Teams erhalten zusätzliche Anleitung zum wirksamen Einsatz von KI-Werkzeugen; Ingenieurinnen und Ingenieure lernen, die generativen KI-Produkte des Unternehmens Belastungstests zu unterziehen und zu überwachen. Recht und Personal verantworten die KI-Kompetenzmaßnahmen gemeinsam. Als Ziel für 2026 nennt Collibra, alle Beschäftigten KI-kompetent zu machen und einen verantwortungsvollen Einsatz für effizientere Arbeitsabläufe zu erreichen.

Als Wirkung berichtet Collibra, Beschäftigte könnten KI-Anwendungsfälle nun besser vorläufig einordnen und wüssten, wann eine rechtliche Prüfung nötig ist. Die Dokumentation wesentlicher Einsatzfälle sei verbessert worden; das Unternehmen verfüge nun über ein umfangreiches Verzeichnis geprüfter, dokumentierter und überwachter KI-Anwendungen. Collibra führt dies als Beitrag zur Einhaltung globaler Regelwerke an und berichtet, eine ISO-42001-Zertifizierung für KI-Governance erhalten zu haben. Diese Angaben werden im Text als Unternehmensdarstellung wiedergegeben; unabhängige Messdaten oder ein Vergleich zur Situation vor den Maßnahmen werden nicht genannt.

Als nächste Herausforderung beschreibt Collibra KI-Agenten, die auf bestehende Anwendungen aufgesetzt sind oder Daten zwischen Anwendungen verbinden können. Dadurch steige das Risiko, dass Daten in nicht genehmigte Anwendungen gelangen. Das Unternehmen plane dazu Sensibilisierungskampagnen und technische Kontrollen, die bestimmte Integrationen verhindern sollen. Der Bericht schildert ein einzelnes Unternehmensbeispiel und erläutert weder ein systematisches Untersuchungsverfahren noch die Reichweite oder Wirksamkeit dieser geplanten Kontrollen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung bezieht sich auf beide Zusammenfassungen von Luna, die sachlich treu sind und nur einzelne Details auslassen; die Einordnungen stützen sich ausschließlich auf den Unternehmensbericht Collibra und gelten nicht als Antwort auf die allgemeinen Fragen zur KI-Sicherheit.

Im Bericht, aber nicht in der Zusammenfassung

  • Ziel, bis 2026 alle Beschäftigten KI-kompetent zu machen
  • Verantwortung für KI-Kompetenz liegt gemeinsam bei Rechts- und Personalabteilung
  • Pflichtschulungen zu Vertraulichkeit, Datenschutz, geistigem Eigentum, Grundrechten, Ethik und Bias
  • Sorge vor Schatten-KI, die durch die Schulung laut Bericht eingedämmt wurde

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV offen
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-M4-T01 Welches gemeinsame Meldeformat und welcher geschützte Kanal ließen Labore Fehler nachstellen und Korrekturen prüfen, ohne private Daten oder gefährliche technische Details preiszugeben? Und könnte sich die Branche über Grenzen hinweg auf einen Standard für das Melden KI-gestützter Einbrüche und Datenabflüsse einigen, damit eine Eskalation gemessen und nicht nur behauptet wird? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 26 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 28 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 23 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 75 %einzelne zitierbare Belege
    • JEV offen
    • amos 31 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %nur am Rande erwähnt
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 32 %nur am Rande erwähnt
    • d3-ultra 49 %nur am Rande erwähnt

    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 56 %einzelne zitierbare Belege
    • JEV offen
    • amos 31 %einzelne zitierbare Belege
    • SubQ 32 %nur am Rande erwähnt
    • drex 31 %nur am Rande erwähnt
    • d3-ultra 43 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV offen
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV offen
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 66 %Hintergrund, keine Belege
    • JEV offen
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →