Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind3. Oktober 2019 · Q002182

Causal Bayesian Networks: A flexible tool to enable fairer machine learning

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Die Autoren stellen kausale Bayes-Netze als Möglichkeit vor, Verzerrungen in ML-Systemen anhand der konkreten Wirkungswege sensibler Merkmale sichtbar zu machen und zu messen. An einem vereinfachten Zulassungsbeispiel zeigen sie, warum Fairnessmaße je nach als fair oder unfair bewerteten Pfaden zu falschen Urteilen führen können; die Bestimmung eines passenden Netzes und komplexe kontrafaktische Analysen bleiben schwierig.

Mittel

Silvia Chiappa und William Isaac argumentieren, dass verbreitete Fairnessmaße für maschinelles Lernen irreführen können, wenn sie nur Gruppenmerkmale und Systemergebnisse vergleichen. Entscheidend sei auch, über welche kausalen Wege ein sensibles Merkmal wie Geschlecht andere Variablen beeinflusst und ob diese Wege im jeweiligen Kontext als unfair gelten.

Als Darstellungs- und Analysewerkzeug stellen sie kausale Bayes-Netze (CBNs) vor. An einem hypothetischen Zulassungsbeispiel unterscheiden sie einen direkten Einfluss des Geschlechts auf die Entscheidung von indirekten Einflüssen über die Fachwahl. Letztere könnten je nach Entstehung fair oder unfair sein. Daher könnten gleiche Zulassungsraten oder gleiche Fehlerraten ein System falsch bewerten, wenn das jeweilige Kriterium nicht zu den als unfair eingestuften Pfaden passt.

Pfadspezifische Verfahren sollen den Einfluss entlang bestimmter Wege messen; kontrafaktische Verfahren sollen prüfen, ob eine einzelne Person bei veränderten unfairen Einflüssen anders entschieden worden wäre. Die Autoren nennen auch eine mögliche nachträgliche Korrektur von Modellentscheidungen. Sie betonen jedoch Schwierigkeiten: Ein passendes Kausalnetz zu bestimmen, Störvariablen zu berücksichtigen und komplexe kontrafaktische Schlüsse zu ziehen. Der Beitrag erläutert den Ansatz anhand eines vereinfachten Beispiels und verweist auf zwei Facharbeiten, berichtet aber keine eigene empirische Systemprüfung.

Ausführlich lesen

Der Beitrag von Silvia Chiappa und William Isaac behandelt die Frage, wie sich Verzerrungen in maschinellen Entscheidungssystemen erkennen und bewerten lassen. Die Autoren argumentieren, dass viele gängige Fairnessmaße vor allem den Zusammenhang zwischen einem sensiblen Merkmal – etwa Geschlecht – und den Systemergebnissen betrachten. Das könne irreführen, weil es darauf ankomme, auf welchen Wegen das Merkmal weitere Variablen beeinflusst. So könne ein schädlicher Einfluss fälschlich als fair gelten oder ein unbedenklicher Einfluss als unfair bewertet werden.

Als Werkzeug schlagen die Autoren kausale Bayes-Netze (CBNs) vor. Darin stehen Knoten für Zufallsvariablen und gerichtete Verbindungen für angenommene kausale Einflüsse. Sie sollen sowohl mögliche Verzerrungsmuster anschaulich darstellen als auch deren Ausmaß quantitativ untersuchen helfen. Ob ein Einfluss als unfair gilt, hängt laut Beitrag vom jeweiligen gesellschaftlichen und rechtlichen Kontext ab.

Zur Erläuterung dient ein hypothetisches Beispiel zur Hochschulzulassung. Geschlecht (G), Qualifikation (Q), Fachwahl (D) und Zulassung (A) werden in einem Netz verbunden. Ein direkter Einfluss von G auf A steht für eine unterschiedliche Behandlung gleich qualifizierter Bewerberinnen und Bewerber im selben Fach und wird als unfair eingeordnet. Ein indirekter Weg über die Fachwahl kann dagegen fair oder unfair sein: Die Autor*innen unterscheiden eine freiwillige Fachwahl, eine durch historische oder kulturelle Zwänge geprägte Wahl und den Fall, dass die Hochschule die Zulassungsquoten für häufiger von Frauen gewählte Fächer senkt. Die Beispiele zeigen, dass derselbe beobachtete Zusammenhang je nach Entstehungsgeschichte anders bewertet werden kann.

Daraus leiten die Autoren ab, dass Fairnesskriterien passend zu den zugrunde liegenden Pfaden gewählt werden müssen. Statistische Parität verlangt gleiche Zulassungsraten zwischen Gruppen; gleiche Fehlerraten verlangen gleiche Fehleranteile. Wenn ein indirekter Einfluss über die Fachwahl als fair gilt, könnte statistische Parität ein System zu Unrecht als unfair einstufen. Sind direkte geschlechtsbezogene Einflüsse unfair, könnten gleiche Fehlerraten umgekehrt problematische Einflüsse übersehen. Die Autoren verweisen dazu auf ihre Arbeit zur Fairnessdebatte um COMPAS, ohne diese im Beitrag ausführlich auszuwerten.

Für die quantitative Analyse beschreiben sie pfadspezifische Verfahren, mit denen sich der Einfluss eines sensiblen Merkmals entlang ausgewählter kausaler Wege schätzen lässt. Mit kontrafaktischer Inferenz könne zusätzlich gefragt werden, ob eine konkrete Person bei ansonsten gleichen Umständen anders entschieden worden wäre, wenn ein bestimmter unfairer Einfluss verändert worden wäre. Bei komplexeren Netzen müssten auch Variablen korrigiert werden, die ihrerseits unfair beeinflusst sind. Die Autoren schlagen vor, solche kontrafaktischen Entscheidungen zur nachträglichen Korrektur von Modellentscheidungen zu nutzen.

Der Beitrag präsentiert CBNs als hilfreichen Ansatz, räumt aber Grenzen ein: Ein zutreffendes Netz zu bestimmen kann schwierig sein; Störvariablen und komplexe kontrafaktische Berechnungen erschweren die Analyse. Die Bewertung der Pfade kann zudem Fachwissen und eine gesellschaftliche Einordnung erfordern. Der Text berichtet keine eigene empirische Prüfung eines konkreten Systems; er erläutert den Ansatz anhand eines vereinfachten Zulassungsbeispiels und verweist auf zwei zugrunde liegende Facharbeiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassungen geben den Bericht im Wesentlichen treu wieder, lassen aber den COMPAS-Bezug und die Einordnung des direkten Geschlechtseinflusses als unfair aus. Bei den Sammelfragen hat Luna SF-V5 und SF-T1 zu hoch und SF-H3 zutreffend bewertet, weil der Bericht dazu keine Belege liefert.

Im Bericht, aber nicht in der Zusammenfassung

  • COMPAS-Debatte als Anwendungsbezug der ersten Facharbeit fehlt in beiden Zusammenfassungen
  • Die Kurzfassung nennt die Nachbearbeitung trainierter Modelle nicht
  • Der direkte Einfluss des Geschlechts auf die Zulassung wird nicht als aus sozialen und rechtlichen Gründen unfair eingeordnet

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 25 %beantwortet teilweise oder widerspricht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →