Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-funde28. Oktober 2026 · Q000248

Anthropic Warns AI Liability Could Exceed Insurance Capacity

programbusiness.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Anthropic warnt in einer SEC-Einreichung, dass schwere KI-Vorfälle Haftungsansprüche erzeugen könnten, die verfügbare Versicherungen übersteigen. Das Unternehmen verweist auf einen noch jungen Versicherungsmarkt, ungeklärte Haftungsregeln, mögliche Freistellungspflichten und eine frühere Urheberrechtsklage, deren Kosten nicht vollständig versichert gewesen seien. Der Bericht quantifiziert weder mögliche Schäden noch deren Eintrittswahrscheinlichkeit.

Mittel

Der Bericht fasst Risiken zusammen, die Anthropic in einer Registrierungserklärung für einen geplanten Börsengang bei der SEC offenlegt. Das Unternehmen warnt, ein katastrophaler KI-Vorfall könne Haftungsansprüche auslösen, die einzelne Versicherer oder sogar die gesamte Branche überfordern. Diese Einschätzungen stammen von Anthropic und werden im Bericht nicht unabhängig überprüft.

Nach Darstellung des Unternehmens ist der Markt für KI-Versicherungen noch jung. Schutz könne schwer oder nur zu hohen Preisen erhältlich sein; außerdem seien Fachwissen und finanzielle Kapazität der Versicherer möglicherweise begrenzt. Als Risiken nennt Anthropic Missbrauch durch Dritte, unerwartetes Modellverhalten und KI-Einsatz in sensiblen Bereichen. Die rechtliche Haftung sei ungeklärt und könne zu Verfahren etwa wegen Produkthaftung oder Verbraucherschutz führen.

Verträge mit externen Testanbietern verpflichten Anthropic teilweise zur Freistellung bei bestimmten Schäden. Manche Vereinbarungen sehen laut Bericht für bestimmte Drittansprüche keine Haftungsobergrenze vor. Auch Cyberversicherungen könnten unzureichend sein oder Ansprüche verzögert beziehungsweise nicht vollständig begleichen. Zudem könnten die Kosten für die Haftpflichtversicherung von Führungskräften und Organmitgliedern steigen.

Anthropic führt das Urheberrechtsverfahren Bartz als Beispiel an: Die Versicherung habe dessen Kosten nicht vollständig gedeckt. Der Bericht beziffert weder mögliche künftige Schäden noch deren Wahrscheinlichkeit.

Ausführlich lesen

Der Bericht behandelt Risiken, die Anthropic in einer am 26. Oktober bei der US-Börsenaufsicht SEC eingereichten Registrierungserklärung für einen geplanten Börsengang beschreibt. Das Unternehmen warnt darin, dass ein schwerwiegender Vorfall im Zusammenhang mit künstlicher Intelligenz Haftungsansprüche auslösen könnte, die einzelne Versicherer oder sogar die gesamte Versicherungsbranche finanziell überfordern. Das sind Einschätzungen und Risikohinweise von Anthropic aus der Einreichung, keine im Bericht unabhängig bestätigten Prognosen.

Anthropic zufolge ist der Markt für Versicherungen gegen spezifische KI-Risiken noch jung und in Entwicklung. Deshalb könne es schwierig sein, bestimmte Risiken zu angemessenen Preisen abzusichern oder überhaupt Versicherungsschutz zu erhalten. Das Unternehmen bezweifelt zudem, dass Versicherer stets über genügend Fachwissen für die Risikobewertung und ausreichende finanzielle Kapazität für katastrophale Schadensfälle verfügen. Ein einzelnes Ereignis oder mehrere zusammenhängende Vorfälle könnten unverhältnismäßig große Schäden und hohe Verbindlichkeiten verursachen. Als mögliche Ursachen nennt Anthropic den Missbrauch durch Dritte, unerwartetes Modellverhalten sowie den Einsatz von KI in sensiblen oder besonders risikoreichen Bereichen.

Auch die rechtliche Haftung für KI sei laut Einreichung ungeklärt. Künftige Verfahren könnten unter anderem Produkthaftung und Verbraucherschutz betreffen, während Gerichte und Aufsichtsbehörden den Umgang mit KI-Schäden weiterentwickeln. Anthropic erklärt außerdem, bestehende Versicherungen und Vertragsklauseln böten möglicherweise keinen ausreichenden Schutz. Verträge mit externen Prüf- und Testanbietern enthielten Freistellungszusagen für bestimmte Schäden, etwa durch Sicherheitsvorfälle, Datenpannen, Datenverlust oder andere Folgen von Tests. Obwohl viele Vereinbarungen solche Pflichten begrenzen, müsse Anthropic nach manchen Verträgen bestimmte Drittansprüche ohne Haftungsobergrenze abwehren und die Anbieter entschädigen. Dazu könnten Vorwürfe gehören, KI-Modelle oder ihre Ausgaben verletzten geistige Eigentums- oder andere Schutzrechte.

Für Cybervorfälle besitzt Anthropic nach eigener Darstellung Versicherungen, die bestimmte Verluste abdecken können. Das Unternehmen warnt jedoch, dass der Schutz unzureichend sein könnte und Versicherer Forderungen womöglich nicht vollständig oder nicht rechtzeitig begleichen. Als börsennotiertes Unternehmen könnten zudem höhere Kosten für die Haftpflichtversicherung von Führungskräften und Organmitgliedern entstehen, etwa durch geänderte Regeln und Anforderungen an die Unternehmensführung. Anthropic könnte deshalb geringere Deckungssummen oder weniger Schutz akzeptieren oder deutlich höhere Prämien zahlen müssen.

Als konkretes Beispiel für eine Deckungslücke nennt der Bericht Anthropics Erfahrung mit dem Urheberrechtsverfahren Bartz: Die Versicherung habe die dortigen Kosten nicht vollständig getragen. Das Unternehmen sieht daher das Risiko, dass auch künftige Ansprüche den verfügbaren Schutz übersteigen und zusätzliche Ausgaben verursachen. Weitere mögliche Kosten beträfen Rechtsstreitigkeiten und Freistellungspflichten gegenüber Geschäftspartnern sowie aktuellen oder früheren Führungskräften. Der Bericht beschreibt die in der Registrierungserklärung offengelegten Risiken; er quantifiziert weder mögliche Schäden noch die Wahrscheinlichkeit eines solchen Großereignisses.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht ist eine Börsen-Registrierung von Anthropic und damit eine Selbstdarstellung des Unternehmens. Er enthält keine unabhängige Überprüfung und keine Schadenszahlen oder Wahrscheinlichkeiten. Die Einordnung stützt sich nur auf die im Bericht tatsächlich enthaltenen Aussagen.

Im Bericht, aber nicht in der Zusammenfassung

  • Vertragliche Schutzklauseln können die Haftung nach anwendbarem Recht möglicherweise nicht ausreichend begrenzen.
  • Freistellungspflichten betreffen auch Ansprüche wegen Datensicherheitsvorfällen, Datenverlust und behaupteter Verletzung von Urheber- oder Eigentumsrechten.
  • Änderungen bei Regulierung und Unternehmensführung können die Versicherungskosten erhöhen, sodass Anthropic niedrigere Deckungssummen oder höhere Prämien akzeptieren müsste.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-M5-T08 Welchen gemeinsamen Mindeststandard für Versicherung oder finanzielle Verantwortung würden Staaten für Einsätze der leistungsstärksten KI-Modelle annehmen, die grenzüberschreitende Schäden verursachen, und wie wäre er zu bemessen, damit er Sicherheit in die Kosten der Skalierung einpreist, ohne zu einer Auflagen-Hürde zu werden, die nur die zwei größten Labore nehmen können? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 47 %Hintergrund, keine Belege
    • JEV 34 %nur am Rande erwähnt
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 36 %einzelne zitierbare Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T09 Was geschieht, wenn sich ein gemeinsames Prüfverfahren oder die Befunde eines Prüfers später als unzuverlässig erweisen: Wie findet man jede Einsatzfreigabe, die wesentlich darauf beruhte, prüft sie erneut, und welche vorläufigen Betriebsbedingungen gelten, bevor modellbezogene Vorfälle auftreten? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 52 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 44 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →