Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset19. Juli 2023 · Q004495

Who Cares About Trust?

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist ein Auszug mit Einleitung und Befundübersicht, keine vollständige Darstellung des Berichts. Laut den Autorinnen und Autoren sind Zuverlässigkeit, Sicherheit und Robustheit über viele KI-Forschungscluster verteilt, während Interpretierbarkeit, Transparenz, Erklärbarkeit, Security und Datenschutz stärker gebündelt auftreten; insgesamt nennen sie 18 relevante Cluster. Methodische Einzelheiten und Kennzahlen fehlen im Auszug.

Mittel

Der bereitgestellte Text ist ein Auszug aus „Who Cares About Trust?“ und umfasst die Einleitung mit einer Übersicht der Befunde; eine ausführliche Methodik oder Ergebnisdarstellung liegt nicht vor. Der Bericht untersucht, wie Forschung zu vertrauenswürdiger KI erfasst werden kann, obwohl sich das Feld schnell entwickelt und der Begriff mehrere Dimensionen umfasst.

Laut den Autorinnen und Autoren verbindet die Analyse Schlüsselwort-Veröffentlichungen aus einer früheren Untersuchung mit Zitierbeziehungen und CSET-Forschungsclustern. So sollen auch relevante Arbeiten sichtbar werden, die keine Begriffe wie „trustworthy AI“ verwenden. Zuverlässigkeit, Sicherheit und Robustheit seien über viele KI-Cluster verteilt. Interpretierbarkeit, Transparenz, Erklärbarkeit, Security und Datenschutz konzentrierten sich hingegen auf weniger Cluster. Die Autorinnen und Autoren sehen darin mögliche Hinweise auf unterschiedlich breite Verwendung dieser Konzepte.

Der Auszug hebt 18 relevante Cluster hervor, unter anderem zu Deep Learning, gegnerischen Angriffen, Bilddatenschutz, erklärbarer KI, föderiertem Lernen, Fairness, Datenschutz und Robotik. Da Angaben zu Methode, Kennzahlen und Unsicherheiten fehlen, lassen sich die Befunde anhand dieses Auszugs nicht näher prüfen.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug aus dem Bericht „Who Cares About Trust?“ von Autumn Toney und Emelia Probasco. Er enthält die Einleitung und eine zusammenfassende Darstellung der wichtigsten Befunde, aber keine ausführliche Beschreibung der Methode oder der Ergebnisse. Die Autorinnen und Autoren behandeln die Frage, wie sich Forschung zu vertrauenswürdiger KI und maschinellem Lernen erfassen lässt. Das sei schwierig, weil sich das Feld schnell entwickle und „vertrauenswürdige KI“ ein vielschichtiges Konzept sei, das wissenschaftliche Arbeiten oft nur teilweise oder in einem bestimmten Anwendungsbereich aufgreifen.

Der Auszug beschreibt die Analyse als Fortsetzung eines früheren CSET-Berichts über die Grenzen von Suchbegriffen zur Erkennung einschlägiger Forschung. Hier würden die zuvor identifizierten Veröffentlichungen, die Begriffe aus dem Bereich vertrauenswürdiger KI verwenden, mit Zitierbeziehungen und CSET-Forschungsclustern aus einer zusammengeführten wissenschaftlichen Literatursammlung in Beziehung gesetzt. Laut Bericht soll das helfen, Forschungsfelder zu erkennen, die auch Arbeiten ohne solche Begriffe enthalten, und Schwierigkeiten durch allgemeine Suchbegriffe wie „Sicherheit“ oder „Security“ zu verringern.

Als Befund nennen die Autorinnen und Autoren, dass Veröffentlichungen zu Zuverlässigkeit, Sicherheit und Robustheit über viele KI-Forschungscluster verteilt seien. Sie deuten dies als Hinweis darauf, dass diese Konzepte breit untersucht oder als Messgrößen für KI-Systeme übernommen werden. Begriffe wie Interpretierbarkeit, Transparenz, Erklärbarkeit, Security und Datenschutz seien dagegen in weniger Clustern konzentriert. Das könne darauf hindeuten, dass sie eher als spezifische Problemfelder untersucht werden, statt als breit etablierte Eigenschaften der KI-Forschung zu gelten.

Der Auszug benennt außerdem 18 Forschungscluster, die für Beobachtende der Entwicklung vertrauenswürdiger KI relevant sein könnten. Sie umfassen unterschiedliche Methoden und Anwendungen, darunter Deep Learning, gegnerische Angriffe, Worteinbettungen, Bilddatenschutz, Spracherkennung, erklärbare KI, föderiertes Lernen, algorithmische Fairness, differentielle Privatsphäre und Robotik. Bei einigen Clustern sei gerade die Häufung einschlägiger Schlüsselwörter ausschlaggebend dafür, dass sie als relevant erkannt würden.

Die Aussagen sind hier nur in der Zusammenfassung der Einleitung belegt. Der bereitgestellte Auszug enthält keine Einzelheiten zu Auswahlregeln, Clustergrößen, Messwerten oder Unsicherheiten; daraus lässt sich die Robustheit der Befunde nicht beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 50 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 81 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →