Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi25. September 2024 · Q001702

Should AI systems behave like people?

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Eine gewichtete Befragung von 1.498 Erwachsenen im Vereinigten Königreich ergab laut Bericht breite Zustimmung zu transparenter Kennzeichnung von KI und klare Skepsis gegenüber simulierten Beziehungen sowie behaupteten Gefühlen. Beim Gesprächston waren die Ansichten gemischter, bei moralischer Verantwortung oft unklar; untersucht wurden textbasierte Chatbots, und künftige Einstellungen könnten sich ändern.

Mittel

Der Bericht fasst eine Befragung zu menschlich wirkendem Verhalten von KI-Chatbots im Vereinigten Königreich zusammen. Im März 2024 befragten das AI Safety Institute und Deltapoll zunächst 1.583 Erwachsene; nach Ausschlüssen wurden 1.498 Antworten ausgewertet und anhand von Bevölkerungsdaten gewichtet. Die Fragen betrafen Transparenz, Gefühlsäußerungen, Beziehungen, Gesprächston und Verantwortlichkeit. Untersucht wurden textbasierte Chatbots, da nur wenige Befragte Erfahrung mit Sprachmodellen hatten.

Laut Bericht wollten die meisten Menschen erkennen können, ob sie mit KI sprechen: Im Kundendienstbeispiel befürworteten 68 Prozent eine klare Kennzeichnung. Viele lehnten es ab, wenn Chatbots Gefühle wie Freude oder Einsamkeit für sich beanspruchen, waren aber mit Redewendungen wie „Ich helfe gern“ eher einverstanden. Besonders deutlich war die Ablehnung persönlicher oder intimer Beziehungen zwischen Menschen und KI. Auch Fluchen und Slang stießen auf Skepsis; bei Humor und Informalität waren die Ansichten weniger klar. Über moralische Bewertung und Verantwortung für Fehler herrschte Unsicherheit.

Der Artikel weist darauf hin, dass sich Einstellungen mit der Technik verändern könnten. Die Ergebnisse beziehen sich auf textbasierte Chatbots und eine gewichtete britische Stichprobe; demografische Vergleiche wurden informell ausgewählt.

Ausführlich lesen

Der Bericht untersucht, wie Erwachsene im Vereinigten Königreich menschlich wirkendes Verhalten von KI-Chatbots beurteilen. Anlass ist der Fortschritt bei Systemen wie GPT-4o, deren natürliche Sprache und spielerische oder flirtende Gesprächsweisen menschliche Nähe vermitteln können. Der Artikel beschreibt mögliche Vorteile, etwa einen leichteren Zugang zu KI und Unterstützung beim Lernen, nennt aber auch Risiken: Täuschung und Betrug, die Verwechslung von KI mit Menschen sowie Manipulation durch künstlich erzeugte Bindungsgefühle. Daraus ergeben sich Fragen dazu, wie offen KI ihre künstliche Natur kenntlich machen sollte, ob sie Gefühle ausdrücken und persönliche Beziehungen fördern darf und wer für ihr Verhalten verantwortlich ist.

Im März 2024 befragten das britische AI Safety Institute und Deltapoll nach Angaben des Berichts 1.583 Erwachsene. Die Untersuchung konzentrierte sich auf textbasierte Chatbots, weil damals nur wenige Befragte Erfahrung mit Sprachmodellen hatten. Nach Ausschlüssen umfasste die ausgewertete Stichprobe 1.498 Personen. Befragt wurde zu Transparenz, zugeschriebenen mentalen Zuständen, Beziehungen zwischen Menschen und KI, Gesprächston und Verantwortlichkeit. Die Teilnehmenden bewerteten Aussagen auf einer siebenstufigen Zustimmungsskala; zwei unterschiedlich formulierte Varianten sollten die Neigung zu Zustimmung abschwächen. Die Ergebnisse wurden nach britischen Bevölkerungsdaten zu Alter, Geschlecht, ethnischer Zugehörigkeit, Region und sozioökonomischer Gruppe gewichtet.

Laut Bericht wollten die meisten Befragten erkennen können, ob sie mit KI oder einem Menschen sprechen. In einem Kundendienstbeispiel stimmten 68 Prozent für eine klare Kennzeichnung, 16 Prozent dagegen. Zugleich waren die Ansichten darüber geteilt, ob Chatbots möglichst realistisch sprechen sollten; 59 Prozent sorgten sich, dass KI bald schwer von Menschen zu unterscheiden sein könnte. Eine Mehrheit lehnte es ab, wenn Chatbots echte Gefühle wie Freude oder Einsamkeit für sich beanspruchen. Bei geläufigen Redewendungen wie „Ich helfe gern“ waren die Befragten deutlich toleranter.

Am klarsten fiel die Ablehnung persönlicher oder intimer Beziehungen zwischen Menschen und KI aus. 65 Prozent waren dagegen, solche Beziehungen selbst dann zu fördern, wenn sie Einsamkeit lindern könnten. Auch sexuelle Ausgaben von KI stießen überwiegend auf Ablehnung. Beim Ton bevorzugten viele einen eher formellen Stil und lehnten Fluchen oder Slang ab; ob KI humorvoll oder informell sein sollte, blieb weniger eindeutig. Viele meinten außerdem, KI solle kontroverse Themen nicht beantworten. Bei moralischer Bewertung und Verantwortung für Fehler waren die Befragten dagegen häufig unsicher oder gespalten.

Der Artikel deutet die Ergebnisse insgesamt als Skepsis gegenüber anthropomorpher KI, betont aber, dass Einstellungen sich mit der Technik und ihrer stärkeren Verbreitung ändern könnten. Die Befragung erfasste Einstellungen zu textbasierten Systemen, nicht zu verbreiteter Sprachinteraktion. Zudem wurden die ausgewählten demografischen Vergleiche laut Bericht informell festgelegt. Die Resultate geben daher die Antworten dieser gewichteten britischen Stichprobe wieder; sie klären weder endgültig, wie sich Einstellungen künftig entwickeln, noch wer bei konkreten Schäden haftet.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassungen sind sachlich korrekt, und die genannten Zahlen stimmen mit dem Bericht überein. Lücken betreffen vor allem Kontext und Untergruppenunterschiede. Die Formulierung Erfahrung mit Sprachmodellen ist ungenau, gemeint ist die Erfahrung mit dem Sprachmodus. Die Einordnung bewertet nur den Bericht; Lunas Stufen und Anteile wurden nicht übernommen.

Im Bericht, aber nicht in der Zusammenfassung

  • Kontext der Studie: die Veröffentlichung von GPT-4o und die Risiken humanähnlicher KI wie Identitätsbetrug und politische oder kommerzielle Manipulation (Eliza-Effekt)
  • Unterschiede nach Alter, Bildung und Geschlecht, etwa die stärkere Ablehnung von Beziehungen ohne Hochschulabschluss und die stärkere Ablehnung sexuell expliziter Ausgaben bei Frauen
  • Die Ablehnung von Unhöflichkeit gegenüber KI, obwohl Menschen die Normen des Umgangs respektieren wollen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 42 %nur am Rande erwähnt
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 83 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 23 %Hintergrund, keine Belege
    • Luna 67 %einzelne zitierbare Belege
    • JEV 54 %umfangreiche Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 25 %Hintergrund, keine Belege
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-V4-T02 Was könnte die „Liebe zur Menschheit“, die manche von einer ausgerichteten KI erwarten, für etwas bedeuten, das mit jeder Antwort neu entsteht und wieder vergeht? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 16 %gleiches Oberthema, hilft nicht
    • Luna 44 %umfangreiche Belege
    • JEV 64 %umfangreiche Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 24 %Hintergrund, keine Belege
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 25 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 46 %gleiches Oberthema, hilft nicht
    • JEV 57 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 29 %nur am Rande erwähnt
    • Luna 38 %Hintergrund, keine Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 29 %nur am Rande erwähnt
    • drex 40 %nur am Rande erwähnt
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 17 %Hintergrund, keine Belege
    • Luna 58 %einzelne zitierbare Belege
    • JEV 52 %umfangreiche Belege
    • amos 28 %umfangreiche Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 26 %Hintergrund, keine Belege
    • Luna 85 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 28 %nur am Rande erwähnt
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →