Bringing Facial Recognition Systems To Light
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Bericht ist ein Auszug: Er erklärt Verifikation als Vergleich mit einer bestimmten gespeicherten Identität und Identifikation als Suche unter allen gespeicherten Gesichtern. Laut Text hängen die Ergebnisse unter anderem von Bildqualität und Vielfalt der Trainingsdaten ab; konkrete Genauigkeitswerte oder eine umfassende Folgenbewertung enthält der Auszug nicht.
Mittel
Der bereitgestellte Bericht ist ein Auszug aus einer PAI-Einführung zu Gesichtserkennungssystemen. Laut Text entstand das Projekt, weil eine gemeinsame Kenntnis der technischen Abläufe und Begriffe nötig sei, um die gesellschaftlichen und kulturellen Auswirkungen zu diskutieren.
Der Auszug unterscheidet zwei Verfahren: Bei der Verifikation (1:1) wird ein Gesichtsbild mit einer bestimmten gespeicherten Identität verglichen; bei der Identifikation (1:viele) wird es mit allen gespeicherten Gesichtern abgeglichen. Das System erkennt zunächst ein Gesicht und erstellt daraus eine Vorlage. Seine Leistung werde unter anderem durch Bildqualität und die Vielfalt der Gesichter im Trainingsdatensatz beeinflusst. Eine Datenbank kann Gesichter, Namen oder Vorlagen enthalten.
Gesichtsanalyse, die Merkmale etwa nach Alter oder Geschlecht kategorisiert, zählt dem Bericht zufolge nicht zur Gesichtserkennung, da sie keine Identität prüft oder vorhersagt. Die Grafiken seien nur allgemein erklärend und stellten kein bestimmtes System dar. Der Auszug liefert keine Genauigkeitswerte oder konkreten Vergleichsergebnisse; auch die angekündigte Erläuterung von Treffer-Schwellenwerten und weitere Artikelteile fehlen.
Ausführlich lesen
Der bereitgestellte Bericht ist ein Auszug aus einer Einführung des Partnership on AI (PAI) zu Gesichtserkennungssystemen. Er erläutert, weshalb das Projekt entstand: In Workshops mit Partnern habe sich gezeigt, dass zunächst ein gemeinsames Verständnis der technischen Abläufe und Begriffe nötig sei, um die gesellschaftlichen, technischen und kulturellen Folgen sinnvoll zu erörtern. Der Text verweist dazu auf ein PAI-Papier über das Verständnis von Gesichtserkennungssystemen.
Laut Auszug erfasst ein solches System zunächst, ob ein Bild ein Gesicht enthält, und erstellt daraus eine Vorlage, die mit gespeicherten Vorlagen verglichen werden kann. Bei der Gesichtsverifikation (1:1) wird geprüft, ob das Bild zu einer bestimmten, zuvor hinterlegten Identität passt. Bei der Gesichtsidentifikation (1:viele) wird nach einem möglichen Treffer unter allen gespeicherten Gesichtern gesucht. Vor der Nutzung werde das System trainiert. Seine Leistung werde dem Bericht zufolge unter anderem von Bildqualität – etwa Blickwinkel, Beleuchtung und Auflösung – sowie von der Vielfalt der Gesichter im Trainingsdatensatz beeinflusst. Außerdem beschreibt der Text eine Anmeldedatenbank mit Gesichtern und Namen; Gesichter könnten darin auch als Vorlagen gespeichert werden. Als Eingang dient ein Bild aus einem Foto oder Video, aus dem das System ein Gesicht und anschließend eine Vorlage ableitet.
Der Auszug grenzt Gesichtserkennung von Gesichtsanalyse beziehungsweise Gesichtscharakterisierung ab. Letztere ordne erkannte Merkmale laut Text Kategorien wie Geschlecht, ethnischer Zugehörigkeit oder Alter zu, diene aber nicht der Verifikation oder Vorhersage einer Identität und werde deshalb nicht als Gesichtserkennung eingeordnet. Der Bericht nennt zudem Treffer-Schwellenwerte als wichtigen Begriff, erläutert sie im bereitgestellten Text jedoch nicht näher.
Die Darstellung ist ausdrücklich allgemein gehalten: Die erwähnten Grafiken sollen keinen konkreten Gesichtserkennungsdienst abbilden, sondern den Ablauf veranschaulichen. Der vorliegende Auszug enthält keine konkreten Messwerte zur Genauigkeit, keine Ergebnisse eines Systemvergleichs und keine ausführliche Bewertung gesellschaftlicher Folgen. Er bricht nach einer Bildunterschrift zur Verifikation ab; Details zum angekündigten Schieberegler und zum übrigen Artikel liegen hier nicht vor.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 53 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 49 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 69 %Hintergrund, keine Belege
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 48 %Hintergrund, keine Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 75 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 56 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 38 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 73 %Hintergrund, keine Belege
- JEV 63 %Hintergrund, keine Belege
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv