Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai25. September 2019 · Q002183

Human-AI Collaboration Trust Literature Review: Key Insights and Bibliography

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht wertet eine erste, multidisziplinäre Sammlung von 78 Forschungsartikeln zu Vertrauen zwischen Menschen und KI aus. Er hebt hervor, dass Vertrauen kontextabhängig ist, Misstrauen und institutionelles Vertrauen zu wenig untersucht werden und weder Erklärungen noch Vertrauen allein die Nutzung von KI zuverlässig erklären.

Mittel

Der Bericht fasst eine erste multidisziplinäre Sichtung von Forschung zu Vertrauen zwischen Menschen und KI zusammen. Die Partnership on AI erstellte mit Beiträgen ihrer Expertengruppe eine Bibliografie aus 78 Forschungsartikeln. Eine Projektgruppe ordnete die Arbeiten vier Themen zu: Vertrauen verstehen, fördern, als vertrauenswürdig wahrgenommen werden und Auswirkungen von Vertrauen.

Sieben Beobachtungen prägen die Auswertung: Die Literatur betone meist den Nutzen von Vertrauen und behandle den Wert von Misstrauen weniger. Viele Arbeiten seien älter als die jüngere Debatte über soziale Folgen von KI. Vertrauen sei zudem kontextabhängig und könne sich auf unterschiedliche Bestandteile wie Daten, Algorithmus, Plattform oder Organisation beziehen. Der Bericht bezweifelt, dass Erklärungen Vertrauen generell erhöhen, und hält den Zusammenhang zwischen Vertrauen und tatsächlicher Nutzung für unsicher. Er verweist außerdem auf uneinheitliche KI-Definitionen und eine geringe Beachtung institutionellen Vertrauens.

Am häufigsten wurde „Vertrauen verstehen“ vergeben (61 Artikel, 78 Prozent); Mehrfachzuordnungen waren möglich. Die Bibliografie ist als Einstieg und Grundlage für weitere Forschung gedacht, nicht als abschließende Abdeckung des Felds.

Ausführlich lesen

Der Bericht stellt eine erste multidisziplinäre Bestandsaufnahme von Forschung zu Vertrauen zwischen Menschen und KI vor. Die Partnership on AI (PAI) erarbeitete sie mit Unterstützung ihrer Expertengruppe für Zusammenarbeit zwischen Menschen und KI. Grundlage war eine thematisch geordnete Bibliografie mit 78 Forschungsartikeln. Die Auswahl stammte aus Beiträgen einer fachübergreifenden Gemeinschaft; eine kleinere Projektgruppe prüfte und analysierte die Artikel. Zwei Personen ordneten die Beiträge nach vier Themen: Vertrauen verstehen, Vertrauen fördern, als vertrauenswürdig wahrgenommene Systeme und die Folgen von Vertrauen. Die Sammlung soll den Einstieg in das Forschungsfeld erleichtern und künftige Untersuchungen anregen.

Aus der Sichtung leitet der Bericht sieben zentrale Beobachtungen ab. Erstens sei die Literatur überwiegend darauf ausgerichtet, Vertrauen in KI zu fördern; der mögliche Nutzen von Misstrauen und Vorsicht werde weniger berücksichtigt. Zweitens stammten viele Arbeiten aus einer Zeit, bevor das Internet allgegenwärtig war und soziale Folgen von KI stärker in den Mittelpunkt rückten. Ältere Konzepte zu zwischenmenschlichem und institutionellem Vertrauen könnten dennoch helfen, neuere Forschung einzuordnen.

Drittens sei Vertrauen situationsabhängig und vielschichtig: Menschen könnten etwa den Trainingsdaten oder einem Algorithmus vertrauen, zugleich aber dem verantwortlichen Unternehmen oder der Plattform misstrauen. Viertens werde die Förderung von Vertrauen häufig vereinfacht dargestellt. Insbesondere sei die Annahme, Erklärungen machten KI nachvollziehbar und steigerten dadurch generell das Vertrauen, laut Bericht nicht allgemein belegt; vereinfachte Darstellungen der Funktionsweise hätten sich meist nicht als vertrauensfördernd erwiesen, auch wenn sie bei Fachleuten mitunter das Vertrauen stärkten.

Fünftens seien die Gründe, aus denen Vertrauen wichtig sein soll, unterschiedlich. Die verbreitete Annahme, Vertrauen führe zu Nutzung, sei fraglich, da Menschen Technologien auch ohne Vertrauen verwenden könnten. Als sinnvolleres Ziel schlägt der Bericht individuelle, zweck- und situationsbezogene Einschätzungen vor, welche Systeme Vertrauen verdienen. Sechstens erschwerten uneinheitliche KI-Definitionen und stark unterschiedliche Systeme den Vergleich der Studien. Siebtens werde institutionelles Vertrauen zu wenig untersucht, obwohl Nutzerinnen und Nutzer angesichts begrenzten technischen Wissens auf ihr Vertrauen in Institutionen angewiesen sein könnten.

In der Bibliografie ist „Vertrauen verstehen“ am häufigsten vertreten: 61 der 78 Artikel (78 Prozent) erhielten diese Zuordnung. 50 Artikel (64 Prozent) wurden dem Fördern von Vertrauen, 29 (37 Prozent) dem Empfangen von Vertrauen und 13 (16 Prozent) den Auswirkungen von Vertrauen zugeordnet. Da Mehrfachzuordnungen möglich sind, summieren sich diese Anteile auf mehr als 100 Prozent. Der Bericht beschreibt eine erste Sichtung und eine ausgewählte Artikelsammlung; er beansprucht keine vollständige Abdeckung des Forschungsfelds. Er betont offene Forschungsfragen und empfiehlt, die Zusammenhänge zwischen Vertrauen, Misstrauen, Kontext und verantwortlichem KI-Einsatz weiter zu untersuchen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Bewertet wurde nur anhand des Berichtstexts. Alle drei Sammelfragen sind bewertet, Teilfragen gab es keine. Die Stufen und Anteile aus Lunas Einordnung wurden nicht übernommen.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Tags wurden von zwei Personen zur Prüfung der Inter-Rater-Reliabilität vergeben; das nennt keine der beiden Zusammenfassungen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 85 %Hintergrund, keine Belege
    • JEV 50 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 83 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 40 %nur am Rande erwähnt
    • amos 32 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →