3fba3ac
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Text ist ein Auszug aus einer PAI-Einführung, die Gesichtserkennung als Verifikation einer bestimmten Identität (1:1) oder Identifikation möglicher Treffer in einer Datenbank (1:Viele) beschreibt. Laut PAI beeinflussen Bildqualität und Vielfalt der Trainingsdaten die Systemleistung; Gesichtsanalyse zur Sortierung nach Merkmalen zählt der Text nicht zur Gesichtserkennung. Genauigkeitswerte und eine ausführliche Behandlung der Schwellenwerte fehlen im Auszug.
Mittel
Der bereitgestellte Text ist ein Auszug aus einer Einführung der Partnership on AI (PAI) in ihr Projekt zu Gesichtserkennungssystemen. PAI berichtet, dass Fragen zu Funktionsweise, Genauigkeit und möglichen Rückschlüssen auf abgebildete Personen das Projekt anregten. Workshops hätten zunächst gezeigt, dass ein gemeinsames technisches Grundverständnis nötig sei; daraus entstand laut Text das Papier „Understanding Facial Recognition Systems“.
Die Einführung unterscheidet Verifikation und Identifikation: Bei der Verifikation wird eine Vorlage aus einem Foto oder Video mit einer bestimmten gespeicherten Vorlage verglichen (1:1). Bei der Identifikation wird sie mit allen gespeicherten Vorlagen abgeglichen (1:Viele). Vorher erkennt das System ein Gesicht und erzeugt eine Vorlage. Die Leistung hänge laut PAI unter anderem von Bildqualität – etwa Winkel, Beleuchtung und Auflösung – sowie der Vielfalt der Trainingsdaten ab. Der Text betont außerdem die Rolle von Abgleichsschwellenwerten, erklärt sie im Auszug jedoch nicht näher.
Systeme, die Gesichter nach Merkmalen wie Alter, Geschlecht oder zugeschriebener Herkunft sortieren, grenzt PAI als Gesichtsanalyse ab, da sie keine Identität verifizieren oder vorhersagen. Der Auszug enthält keine Genauigkeitsdaten, konkreten Systembewertungen oder ausführliche gesellschaftliche Analyse.
Ausführlich lesen
Der bereitgestellte Text ist ein Auszug aus einer Einführung in das Projekt zu Gesichtserkennungssystemen der Partnership on AI (PAI). Er erläutert den Anlass und grundlegende technische Abläufe, enthält aber keine vollständige Darstellung des Projekts oder der angekündigten Erläuterungen zu Schwellenwerten. Die Grafiken, so der Text, sollen keinen konkreten Gesichtserkennungsdienst darstellen, sondern die Technik allgemein veranschaulichen.
PAI berichtet, dass Fragen dazu, wie Gesichtserkennung funktioniert, wie genau sie ist und welche Informationen sie über eine abgebildete Person liefern kann, den Anstoß für das Projekt gaben. In Workshops mit Partnern habe sich gezeigt, dass zunächst ein gemeinsames Verständnis der Funktionsweise nötig sei. Daraus sei das Papier „Understanding Facial Recognition Systems“ hervorgegangen. Eine gemeinsame Sprache und die Klärung technischer Begriffe wie Systemtraining, Registrierungsdatenbank und Abgleichsschwellenwerte sollen laut Einführung eine sachliche Diskussion über die gesellschaftlichen Rollen solcher Systeme unterstützen.
Der Text unterscheidet zwei Aufgaben. Bei der Gesichtsverifikation prüft ein System, ob ein vorgelegtes Gesicht zu einer bestimmten, bereits gespeicherten Identität passt. Dabei wird eine Vorlage aus dem Eingabebild mit einer einzelnen Vorlage in der Datenbank verglichen; PAI bezeichnet dies als 1:1-Abgleich. Bei der Gesichtsidentifikation wird dieselbe Art Vorlage mit allen gespeicherten Vorlagen verglichen, um mögliche Übereinstimmungen zu finden; dies wird als 1:Viele-Abgleich beschrieben. Vor diesen Vergleichen erkennt das System zunächst, ob das Bild ein Gesicht enthält, und erstellt daraus eine Vorlage. Das Ausgangsbild kann laut Text aus einem Foto oder Video stammen. Gesichter und Namen werden in einer Registrierungsdatenbank abgelegt; Gesichter können dort auch als Vorlagen gespeichert sein.
Als Faktoren, die die Leistung eines Systems beeinflussen, nennt PAI die Qualität der Trainingsbilder – etwa Blickwinkel, Beleuchtung und Auflösung – sowie die Vielfalt der Gesichter im Trainingsdatensatz. Der Text verweist außerdem auf die Bedeutung von Abgleichsschwellenwerten, führt deren Wirkung im vorliegenden Auszug aber nicht weiter aus.
Gesichtserkennung wird mitunter auch für Systeme verwendet, die Gesichtsmerkmale wie Alter, Geschlecht oder zugeschriebene Herkunft kategorisieren. PAI grenzt solche Gesichtsanalyse- oder Charakterisierungssysteme ab: Sie seien keine Gesichtserkennung im hier definierten Sinn, weil sie weder Identitäten verifizieren noch vorhersagen. Der Auszug enthält keine Messwerte zur Genauigkeit, keine konkreten Systemvergleiche und keine weiter ausgeführten sozialen oder kulturellen Bewertungen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 48 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 68 %Hintergrund, keine Belege
- JEV 46 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 71 %Hintergrund, keine Belege
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 63 %einzelne zitierbare Belege
- JEV 55 %Hintergrund, keine Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 67 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 60 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 69 %Hintergrund, keine Belege
- JEV 62 %Hintergrund, keine Belege
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv