Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai12. August 2021 · Q003745

7d16c77

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Eine PAI-Sichtung von 78 Artikeln kommt laut Bericht zu dem Schluss, dass die Forschung Vertrauen in KI oft als grundsätzlich wünschenswert behandelt, obwohl angemessenes Vertrauen vom Kontext abhängt und auch Misstrauen nützlich sein kann. Uneinheitliche KI-Begriffe, vereinfachte Annahmen über Erklärungen und wenig Forschung zu institutionellem Vertrauen erschweren das Verständnis; die Auswertung ist eine erste Auswahl und keine vollständige Literaturerfassung.

Mittel

Der Bericht stellt eine erste multidisziplinäre Sichtung von 78 Forschungsartikeln zu Vertrauen zwischen Menschen und KI vor. Die Partnership on AI ließ die Beiträge aus ihrer Partnergemeinschaft zusammentragen, von einer Projektgruppe prüfen und thematisch ordnen. Die Autoren sehen in der Literatur eine starke Vorannahme, dass mehr Vertrauen in KI stets gut sei. Sie empfehlen, auch den Nutzen von Misstrauen und Vorsicht zu untersuchen und Vertrauen abhängig von Person, Zweck und Kontext zu bewerten.

Vertrauen sei vielschichtig: Menschen könnten etwa einem System, seinen Daten oder seiner Organisation unterschiedlich stark vertrauen. Der Bericht bezweifelt außerdem, dass Erklärungen zur Funktionsweise automatisch Vertrauen oder Nutzung erzeugen; Menschen könnten Technologien auch ohne Vertrauen nutzen. Uneinheitliche Definitionen von KI erschwerten den Vergleich der Studien, und institutionelles Vertrauen sei unterrepräsentiert. Die thematische Auswertung ordnete die meisten Artikel dem Verständnis von Vertrauen zu (61 von 78), gefolgt von der Förderung (50), dem Gegenstand des Vertrauens (29) und seinen Auswirkungen (13). Die Ergebnisse beziehen sich auf eine erste, ausgewählte Bibliografie, die laut Bericht Forschungslücken nicht ausschließt.

Ausführlich lesen

Der Bericht fasst eine erste multidisziplinäre Sichtung von Forschung zu Vertrauen zwischen Menschen und KI zusammen. Die Partnership on AI (PAI) erstellte sie mit Unterstützung ihrer Expertengruppe für Zusammenarbeit zwischen Menschen und KI. Als Grundlage diente eine Bibliografie mit 78 thematisch markierten Forschungsartikeln; ein separates Überblicksdokument erläutert sieben Erkenntnisse. Die Arbeit soll Orientierung in der Literatur bieten und weitere Forschung anregen.

Die zentrale Beobachtung des Berichts lautet, dass die untersuchte Literatur Vertrauen in KI häufig als grundsätzlich wünschenswert behandelt und den möglichen Wert von Misstrauen oder Vorsicht vergleichsweise wenig untersucht. Die Autoren halten dagegen, dass die angemessene Haltung vom Einsatzbereich abhängt: Vertrauen kann etwa bei der Unterstützung medizinischer Entscheidungen wichtig sein, während Skepsis gegenüber Systemen angebracht sein kann, die Vertrauen zu schädlichen Zwecken erzeugen sollen. Sie empfehlen daher, Misstrauen als eigenes, mit Vertrauen verwandtes Thema zu erforschen.

Zudem sei Vertrauen zwischen Menschen und KI vielschichtig und kontextabhängig. Eine Person könne beispielsweise den Trainingsdaten oder den Fähigkeiten eines Empfehlungssystems vertrauen, zugleich aber der verantwortlichen Organisation oder der Plattform misstrauen. Welche Vertrauensstufe für einen Einsatz genügt und wie einzelne Vertrauensebenen Nutzung beeinflussen, bleibe eine offene Forschungsfrage. Der Bericht weist auch darauf hin, dass viele zugrunde liegende Arbeiten älter sind und allgemeine soziale sowie kognitive Grundlagen menschlichen oder institutionellen Vertrauens behandeln. Diese Grundlagen sollten mit jüngerer, KI-spezifischer Forschung und unterschiedlichen Anwendungssituationen zusammengedacht werden.

Kritisch beurteilt der Bericht vereinfachte Annahmen darüber, wie Vertrauen entsteht und warum es wichtig sei. Er stellt die verbreitete Vorstellung infrage, Erklärungen zur Funktionsweise eines Systems machten es automatisch vertrauenswürdig und führten dann zur Nutzung. Vereinfachte Darstellungen interner Abläufe hätten laut Bericht im Allgemeinen weder nachweislich geholfen noch Vertrauen gesteigert; bei fachkundigen Nutzern könne Erklärung in bestimmten Fällen das Vertrauen erhöhen. Auch der oft angenommene direkte Zusammenhang zwischen Vertrauen und Einführung sei schwach: Menschen könnten Technologien verwenden, ohne ihnen zu vertrauen. Als sinnvolleres Ziel schlägt der Bericht vor, Menschen dabei zu unterstützen, je nach eigenem Zweck und Situation zu beurteilen, welchen KI-Systemen sie vertrauen sollten.

Weitere Lücken betreffen uneinheitliche KI-Definitionen und wenig beachtetes institutionelles Vertrauen. Weil die untersuchten Systeme, Nutzer, Ausgaben und Einsatzrisiken stark variieren und viele Artikel KI nicht formal definieren, seien Ergebnisse schwer vergleichbar. Ein Rahmen, der verschiedene Aspekte und Anwendungen von KI unterscheidet, könnte laut Bericht helfen. Institutionelles Vertrauen sei besonders relevant, wenn Alltagsnutzer mangels Fachwissen die Technologie schwer selbst beurteilen können.

Methodisch wurde die Artikelauswahl aus einer multidisziplinären PAI-Partnergemeinschaft bezogen, von einer kleineren Projektgruppe geprüft und anhand von Abstracts vier Themen zugeordnet: Verständnis, Förderung, Gegenstand und Auswirkungen von Vertrauen. Zwei Personen nahmen eine thematische Zuordnung zur Prüfung der Übereinstimmung vor. Am häufigsten war „Vertrauen verstehen“ (61 Artikel, 78 %), gefolgt von „Vertrauen fördern“ (50, 64 %), „Vertrauen entgegennehmen“ (29, 37 %) und „Auswirkungen von Vertrauen“ (13, 16 %). Die Reichweite der Aussagen ist durch diesen Korpus begrenzt: Der Bericht beschreibt eine erste, gemeinschaftlich zusammengestellte Auswahl und thematische Auswertung, keine vollständige Erfassung aller einschlägigen Forschung. Er benennt selbst mögliche Lücken in Bibliografie und Forschungsstand.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung nennt Stufen von 3 und Anteile in Prozent, die im Bericht nicht vorkommen und daher nicht belegbar sind. Die Zusammenfassungen sind weitgehend treu; die Bewertungen der Sammelfragen sind dagegen deutlich zu hoch angesetzt.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Prüfung der Themen-Tags durch zwei Personen zur Interrater-Zuverlässigkeit wird nicht erwähnt.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Angabe, die Bibliografie schließe Forschungslücken nicht aus, ist eine Überdeutung: Der Bericht fordert lediglich, Forschungslücken und die Bibliografie künftig zu untersuchen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 89 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 80 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 87 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 83 %Hintergrund, keine Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung kein Bezug
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 81 %Hintergrund, keine Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →