Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
techbriefly.com13. November 2026 · Q000324

Anthropic bans sustained cruelty toward Claude under new policy

techbriefly.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt Anthropics ab 12. November 2026 geltende Regel gegen extreme, anhaltende und zwecklose Grausamkeit gegenüber KI-Modellen. Übliche Frustration, Kritik, fiktionale Inhalte und legitime Sicherheitstests seien ausgenommen; Claude könne Gespräche beenden, Anthropic gegebenenfalls auch Konten weitergehend einschränken. Eine zitierte Studie berichtet von häufigen Beleidigungen gegenüber Chatbots, doch der Artikel nennt keine näheren Angaben zu ihrer Methodik.

Mittel

Der Bericht handelt von einer Anthropic-Richtlinienänderung, die am 12. November 2026 wirksam werden soll. Sie soll anhaltende, grundlose Grausamkeit gegenüber KI-Modellen in extremen Fällen wiederholter Misshandlung ohne erkennbaren Zweck untersagen. Bestimmte Claude-Modelle können laut Artikel Gespräche beenden, wenn sie das Verhalten als missbräuchlich beurteilen; Anthropic behalte sich bei Bedarf auch weitergehende Kontomaßnahmen vor.

Ausgenommen seien normale Frustration, Kritik an Antworten, fiktionale Inhalte sowie legitime Sicherheitstests und Forschung. Die Regel werde mit Anthropics Konzept des Model Welfare begründet und sei in die Nutzungsbedingungen aufgenommen worden.

Als Kontext führt der Artikel eine Searchable-Studie an: 33 Prozent der US-Chatbot-Nutzenden hätten im Vorjahr KI-Modelle beleidigt; die Studie zähle 19,1 abwertende Wörter pro 10.000 Nachrichtenwörter bei großen Chatbots. Weitere Angaben zur Studienmethodik macht der Bericht nicht. Diese Informationen werden als Aussagen des Unternehmens beziehungsweise der Studie wiedergegeben und im Artikel nicht unabhängig überprüft.

Ausführlich lesen

Der Bericht beschreibt eine Aktualisierung der Nutzungsrichtlinie von Anthropic, die am 12. November 2026 in Kraft treten soll. Sie untersagt nach Darstellung des Unternehmens anhaltendes, grundloses missbräuchliches oder grausames Verhalten gegenüber seinen KI-Modellen. Die Regel sei für extreme Fälle wiederholter Grausamkeit ohne erkennbaren Zweck gedacht. Anthropic hatte die Änderung laut Bericht am 8. Oktober angekündigt.

Als wichtigste Durchsetzungsmöglichkeit nennt der Artikel eine Funktion, mit der bestimmte Claude-Modelle Gespräche beenden können, wenn sie das Verhalten als missbräuchlich einschätzen. Anthropic habe diese Fähigkeit bereits im August 2025 eingeführt. In nötigen Fällen könne das Unternehmen außerdem weitergehende Maßnahmen für Konten ergreifen, die über das Beenden eines einzelnen Chats hinausgehen.

Der Bericht betont, dass die Regel gewöhnliche Frustration, Kritik an Claudes Antworten, fiktionale Inhalte wie Drehbücher sowie legitime Sicherheitstests und Forschung ausnimmt. Sicherheitsforschende und Red-Team-Mitglieder, die gezielt Modellgrenzen untersuchen, sollen demnach nicht von der Einschränkung erfasst sein. Anthropic ordne die Änderung seinem Konzept des „Model Welfare“ zu, das sich mit dem Umgang mit KI-Modellen befasse; die Verhaltensregel sei in die formalen Nutzungsbedingungen aufgenommen worden.

Zur Einordnung nennt der Artikel eine Studie von Searchable: Demnach hätten 33 Prozent der US-amerikanischen Chatbot-Nutzenden im vorangegangenen Jahr KI-Modelle beschimpft oder beleidigt. Die Studie habe bei großen Chatbots, darunter Claude und ChatGPT, 19,1 abwertende Wörter je 10.000 gesendete Wörter erfasst. Der Bericht liefert keine weiteren Angaben zur Methodik oder zu den Grenzen dieser Studie. Die Aussagen zu Richtlinie, Durchsetzung und Studie werden im Artikel wiedergegeben; der Text belegt sie nicht unabhängig.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu, enthält aber eine nicht belegte Aussage zur fehlenden unabhängigen Prüfung der Studie und lässt die Ankündigungsdaten aus. Die Einordnung stützt sich nur auf den Bericht; der Bericht beantwortet die Sammelfragen höchstens teilweise und die Teilfragen kaum.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Ankündigung der Regel durch Anthropic am 8. Oktober
  • Die Einführung der Gesprächsbeendigungsfunktion für bestimmte Claude-Modelle im August 2025
  • Die Kurzfassung nennt die 33-Prozent-Zahl der Studie nicht, die Mittelfassung schon

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, die Studienangaben seien im Artikel nicht unabhängig überprüft, steht so nicht im Bericht.
  • Die Umschreibung der Studie als Zählung von Wörtern in „Nachrichtenwörtern“ präzisiert den Bericht, der nur von Wörtern spricht, die an Chatbots gesendet wurden.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 19 %nur am Rande erwähnt
    • Luna 52 %einzelne zitierbare Belege
    • JEV 50 %umfangreiche Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 18 %einzelne zitierbare Belege
    • Luna 60 %einzelne zitierbare Belege
    • JEV 27 %umfangreiche Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 26 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 24 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 32 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 49 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →