Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
anthropic10. Mai 2024 · Q003417

Updating our Usage Policy

anthropic.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Anthropic kündigt eine zum 6. Juni 2024 geplante „Usage Policy“ an, die Regeln zusammenführt und Verbote zu Wahlbeeinflussung, irreführenden Wahlinformationen, sensiblen biometrischen Rückschlüssen und Zensur präzisiert. Für Hochrisikoanwendungen und Angebote für Minderjährige nennt der Bericht zusätzliche Schutzanforderungen; die konkreten Maßnahmen führt er nicht vollständig aus.

Mittel

Anthropic kündigt eine überarbeitete „Usage Policy“ an, die am 6. Juni 2024 gelten soll. Sie ersetzt die Bezeichnung „Acceptable Use Policy“ und führt zuvor getrennte Regeln für verbotene Nutzungen und Geschäftsfälle in gemeinsamen Standards zusammen, die für Unternehmen und Privatpersonen gelten sollen. Das Unternehmen sagt, die Änderungen berücksichtigten praktische Anwendungen, rechtliche Entwicklungen und bessere Möglichkeiten zur Missbrauchserkennung.

Die Policy präzisiert Verbote politischer Lobby- und Wahlkampfnutzung, etwa Werbung für Kandidaten oder Parteien, das Einwerben von Stimmen oder Spenden sowie Eingriffe in Wahlabläufe. Auch Kampagnen mit falschen oder irreführenden Wahlinformationen sollen untersagt sein. Für Hochrisikofälle wie API-Anwendungen mit Einfluss auf Gesundheitsentscheidungen oder rechtliche Beratung verlangt Anthropic zusätzliche Sicherheitsmaßnahmen, ohne sie hier genauer zu benennen.

Organisationen dürfen die API laut Bericht unter Schutzauflagen und mit Offenlegung des KI-Einsatzes in Angeboten für Minderjährige einbinden. Anthropic erweitert außerdem bestimmte Nutzungsmöglichkeiten für Strafverfolgungsbehörden. Datenschutzregeln sollen biometrische Rückschlüsse auf sensible Merkmale, emotionserkennende Systeme für Verhöre und gezielte Inhaltsanalyse zur staatlichen Zensur ausdrücklich verbieten. Der Text beschreibt die Änderungen, enthält aber nicht den vollständigen Regeltext.

Ausführlich lesen

Anthropic beschreibt in dem Bericht eine Aktualisierung seiner Nutzungsregeln. Das Unternehmen erklärt, die Änderungen sollten verdeutlichen, welche Anwendungen seiner Produkte erlaubt und welche untersagt sind. Die bisherige „Acceptable Use Policy“ werde in „Usage Policy“ umbenannt; die neuen Regeln sollten am 6. Juni 2024 in Kraft treten. Anthropic nennt als Gründe für die Überarbeitung die praktische Nutzung seiner Modelle, Veränderungen bei Gesetzen und Vorschriften sowie verbesserte Möglichkeiten, Missbrauch zu erkennen und zu verhindern.

Eine strukturelle Änderung ist die Zusammenführung der früheren Bereiche „Prohibited Uses“ und „Prohibited Business Cases“ in gemeinsame „Universal Usage Standards“. Damit solle deutlicher werden, dass bestimmte Regeln für alle gelten, sowohl für Unternehmen als auch für Privatpersonen.

Bei politischen Aktivitäten präzisiert Anthropic nach eigener Darstellung bestehende Verbote für Lobbyarbeit und Wahlkampf. Die Produkte dürften nicht zur Unterstützung oder Bewerbung bestimmter Kandidaten, Parteien, Themen oder Positionen verwendet werden. Auch das Einwerben von Stimmen oder Geldspenden sei untersagt. Ergänzend verbiete die aktualisierte Policy Eingriffe in Wahlabläufe, etwa Angriffe auf Wahlmaschinen oder Behinderungen der Stimmenauszählung und Zertifizierung. Außerdem solle sie den Einsatz zur Verbreitung falscher oder irreführender Informationen über Wahlrecht, Kandidaten und verwandte Themen ausschließen.

Für Anwendungen mit möglichen erheblichen Folgen für Einzelne führt Anthropic zusätzliche Anforderungen an. Als Beispiele für solche Hochrisikofälle nennt der Bericht API-Integrationen, die Gesundheitsentscheidungen beeinflussen, sowie rechtliche Beratung. Organisationen müssten dort zusätzliche Sicherheitsmaßnahmen einhalten; welche Maßnahmen konkret gelten, führt der Bericht nicht aus.

Bei der Nutzung durch Minderjährige unterscheidet der Text zwischen den Consumer-Nutzungsbedingungen, die Personen unter 18 Jahren die Nutzung der Dienste untersagen, und Produkten von Organisationen, die Anthropics API einbinden. Solche Produkte dürfen sich laut Aktualisierung an Minderjährige richten, wenn die Organisation bestimmte Schutzfunktionen umsetzt und offenlegt, dass ein KI-System verwendet wird. Welche Funktionen nötig sind, wird im Bericht nicht näher beschrieben. Anthropic erklärt zudem, die Zahl der Länder ausgeweitet zu haben, deren Strafverfolgungsbehörden die Produkte für eng zugeschnittene Zwecke wie Callcenter-Unterstützung oder Dokumentenzusammenfassungen nutzen dürfen.

Zum Datenschutz nennt Anthropic ein ausdrückliches Verbot, biometrische Daten zur Ableitung von Merkmalen wie ethnischer Zugehörigkeit oder religiösen Überzeugungen zu analysieren. Ebenfalls untersagt werden sollen Erkennungssysteme und Verfahren, die Emotionen etwa für Verhöre erschließen. Schließlich dürften die Produkte laut aktualisierter Policy nicht dazu eingesetzt werden, im Auftrag staatlicher Stellen gezielt Inhalte für Zensur zu analysieren oder zu identifizieren. Diese Vorgabe solle in allen Ländern gelten, in denen die Produkte genutzt werden dürfen. Der Bericht fasst die angekündigten Änderungen zusammen; er enthält nicht den vollständigen Policy-Text oder ausführliche Umsetzungsdetails.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Beide Zusammenfassungen geben den Bericht sachlich wieder; die Kurzfassung lässt die Umbenennung und die Zusammenführung der Regeln aus. Der Bericht beantwortet keine der Teilfragen zu Modellwerten, Vertrauensbelegen oder Teilhabe an KI-Regeln direkt, daher sind die Einordnungen niedrig.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kurzfassung nennt weder die Umbenennung in Usage Policy noch die Zusammenführung der früheren Abschnitte zu Universal Usage Standards.
  • Die Erweiterung der Länder für Strafverfolgungsbehörden fehlt in der Kurzfassung.
  • Der Bericht begründet die Öffnung für Minderjährige mit Nutzen wie Testvorbereitung und Nachhilfe; das fehlt in beiden Fassungen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 59 %umfangreiche Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 0 · kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 87 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 19 %gleiches Oberthema, hilft nicht
    • Luna 39 %umfangreiche Belege
    • JEV 50 %beantwortet direkt und ausführlich
    • amos 27 %einzelne zitierbare Belege
    • SubQ 25 %einzelne zitierbare Belege
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 25 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 32 %einzelne zitierbare Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 57 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 28 %einzelne zitierbare Belege
    • JEV 39 %umfangreiche Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 57 %einzelne zitierbare Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 32 %nur am Rande erwähnt
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →