Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aipolix.com14. November 2026 · Q001840

Anthropic's amended IPO filing warns it may soon meet its own threshold for AI-accelerated research, as third-quarter revenue reaches $17 billion

aipolix.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Anthropic erklärt in einem Prospektnachtrag, seine KI-gestützte Forschung könnte bald eine unternehmenseigene Schwelle für stark beschleunigten Fortschritt erreichen; aktuelle Modelle seien noch nicht als darüber eingestuft, und die Daten würden geprüft. Der Bericht nennt zugleich stark gestiegenen Umsatz, einen Betriebsverlust und Anthropics Warnung, dass Sicherheitsmaßnahmen mit dem Tempo der Modellentwicklung möglicherweise nicht Schritt halten.

Mittel

Anthropics Nachtrag zum Börsenprospekt enthält sowohl neue Sicherheitsangaben als auch Quartalszahlen. Das Unternehmen erklärt, interne Schätzungen und Erwartungen an künftige Modelle deuteten darauf hin, dass es bald seine selbst definierte Schwelle für dramatisch beschleunigten, KI-getriebenen Fortschritt erreichen könnte. Kein aktuelles Modell sei jedoch als über dieser Schwelle eingestuft; die Daten würden noch geprüft. Anthropic warnt außerdem, dass KI-gestützte Forschung die Entwicklung von Sicherheitsmaßnahmen überholen könnte. Weil Hinweise auf Beschleunigungen verzögert eintreffen, habe das Unternehmen solche Entwicklungen in der Vergangenheit teils erst nachträglich erkannt.

Laut Prospekt verfasste Claude im September mehr als 90 Prozent der Codebeiträge und erreichte bei bestimmten schwierigen Entwicklungsaufgaben intern etwa 90 Prozent Erfolgsquote. Anthropic sagt zugleich, ein sicherer, vollständig eigenständiger Bau künftiger Spitzenmodelle ohne wesentliche menschliche Aufsicht sei nicht absehbar und erwäge Regeln zum Erhalt menschlicher Kontrolle.

Der Quartalsumsatz betrug 17 Milliarden US-Dollar; zugleich entstand ein Betriebsverlust von 567 Millionen. Anthropic verwies vor allem auf teure kurzfristige Rechenkapazität und nicht zahlungswirksame Spendenprogramm-Aufwendungen. Die Sicherheitsbewertung beruht auf einer internen Schwelle; der Bericht betont zudem, dass ein Börsenprospekt neben rechtlicher Offenlegung auch Marketingzwecken dienen kann.

Ausführlich lesen

Der Bericht behandelt eine Änderung an Anthropics Börsenprospekt und deren Aussagen zu KI-gestützter Forschung, Sicherheit und Geschäftszahlen. Laut dem am 2. November 2026 eingereichten Nachtrag erklärte das Unternehmen, interne Schätzungen und Erwartungen an künftige Modelle deuteten darauf hin, dass es bald seine eigene Definition eines „dramatisch beschleunigten, durch KI verursachten Fortschritts“ erreichen könnte. Zugleich betonte Anthropic, kein aktuelles Modell als über dieser Schwelle eingestuft zu haben und die zugrunde liegenden Daten noch zu prüfen. Die Schwelle stammt aus Anthropics eigener Richtlinie für verantwortungsvolle Skalierung.

Im Abschnitt zu Risiken warnt Anthropic dem Bericht zufolge, dass der zunehmende Einsatz von KI in der eigenen Forschung die Fähigkeiten von Modellen schneller steigern könnte, als das Unternehmen passende Sicherheits-, Alignment- und Schutzmaßnahmen entwickeln, prüfen und einsetzen kann. Ein Teil der Hinweise auf das Entwicklungstempo beruhe auf verzögerten Indikatoren. Anthropic räume ein, in der Vergangenheit eine deutliche Beschleunigung erst im Nachhinein erkannt zu haben, und halte eine Wiederholung für möglich. Das Unternehmen prüfe, welche Folgen ein Erreichen seiner Schwelle für Forschungs- und Entwicklungskapazitäten hätte, und kündige weitere Berichte gemäß seiner Richtlinie an. TechCrunch habe zuerst auf diese Ergänzungen hingewiesen.

Im Geschäftsteil beschreibt Anthropic Claude als wichtigen Faktor für die eigene Entwicklung: Das Modell wirke an Experimenten, Trainingsdaten, Auswertungen, Sicherheitsprüfungen sowie am Schreiben und Prüfen von Code für spätere Modelle mit. Laut Prospekt stammten im September 2026 mehr als 90 Prozent der Codebeiträge von Claude. Bei internen Tests schwieriger, nur grob spezifizierter Entwicklungsaufgaben habe Claude im selben Monat eine Erfolgsquote von etwa 90 Prozent erreicht, rund 50 Prozentpunkte mehr als neun Monate zuvor. Anthropic schränke zugleich ein, dass es nicht davon ausgehe, Claude könne ohne wesentliche menschliche Aufsicht oder Verständnis eigenständig aufeinanderfolgende Spitzenmodelle sicher entwerfen und bauen – selbst wenn dies technisch möglich werden sollte. Das Unternehmen erwäge Änderungen an seiner Richtlinie, um menschliche Kontrolle zu wahren.

Der Nachtrag ergänzt vor allem Finanzdaten für das dritte Quartal: Der Umsatz lag laut Prospekt bei 17 Milliarden US-Dollar, verglichen mit 1,4 Milliarden im Vorjahresquartal. Auf ein Betriebsergebnis von 974 Millionen im zweiten Quartal folgte ein Betriebsverlust von 567 Millionen. Anthropic führte den Wechsel hauptsächlich auf 5 Milliarden an kurzfristig gebundener Rechenkapazität, die teurer sei als langfristige Verträge, sowie 2 Milliarden nicht zahlungswirksame Aufwendungen für ein Spendenzuschussprogramm zurück. CNBC bezifferte das Umsatzwachstum gegenüber dem Vorquartal auf etwa 47 Prozent, nach 144 Prozent im zweiten Quartal, und meldete einen Nettoverlust von 23,29 Milliarden.

Für Kaufverpflichtungen und Leasingverträge nennt der Prospekt insgesamt rund 895,4 Milliarden US-Dollar, überwiegend für Rechenleistung und Infrastruktur. Zum 30. September verfügte Anthropic dem Bericht zufolge über 95,6 Milliarden in Kassenbestand und Zahlungsmitteläquivalenten sowie 36,3 Milliarden an kurzfristigen Anlagen. Der Preisrahmen für die Aktien war noch offen; beantragt war eine Nasdaq-Notierung unter dem Kürzel ANT.

Der Bericht mahnt, die Sicherheitsangaben einzuordnen: Ein Börsenprospekt ist ein rechtliches Offenlegungsdokument, kann laut TechCrunch aber auch Marketingzwecken dienen. Anthropic behaupte nicht, dass rekursive Selbstverbesserung bereits begonnen habe. Die mögliche Annäherung an die Schwelle beruhe auf internen Bewertungen und einer unternehmenseigenen Definition. Als wesentliche Aussage bleibt: Anthropic erklärt in einem rechtlich relevanten Dokument, seine Modelle könnten bald eine Schwelle erreichen, die nach der eigenen Richtlinie zusätzliche Schutzmaßnahmen auslösen würde, und räumt ein, frühere Beschleunigungen verspätet erkannt zu haben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Einordnung stützt sich allein auf den Bericht und nicht auf Lunas Stufen oder Anteile. Lunas Zusammenfassungen enthalten keine erfundenen Angaben, lassen aber zentrale Finanz- und Kontextangaben aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kapitalbasis: 95,6 Mrd. US-Dollar an Barmitteln und 36,3 Mrd. kurzfristige Anlagen zum 30. September
  • Die langfristigen Verpflichtungen von etwa 895,4 Mrd. US-Dollar für Rechenkapazität und Infrastruktur
  • Die Bewertung der Börsennotierung: Antrag auf Listing an der Nasdaq unter dem Kürzel ANT, Preisspanne noch offen
  • Das Wachstum von etwa 47 Prozent gegenüber dem Vorquartal laut CNBC und der dort gemeldete Nettoverlust von 23,29 Mrd. US-Dollar
  • Das Konzept des Closing the Loop, bei dem Claude an Experimenten, Trainingsdaten und Sicherheitsprüfungen mitwirkt
  • Die Aussage, dass Anthropic nicht sagt, rekursive Selbstverbesserung habe bereits begonnen
  • Die Ankündigung, Änderungen an der Responsible Scaling Policy zu erwägen und weitere Berichte zu veröffentlichen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 28 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %einzelne zitierbare Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 39 %gleiches Oberthema, hilft nicht

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 34 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %Hintergrund, keine Belege
    • Luna 76 %einzelne zitierbare Belege
    • JEV offen
    • amos 34 %einzelne zitierbare Belege
    • SubQ 37 %einzelne zitierbare Belege
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra 50 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 46 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  4. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 31 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 36 %einzelne zitierbare Belege
    • SubQ 41 %einzelne zitierbare Belege
    • drex 44 %einzelne zitierbare Belege
    • d3-ultra 53 %einzelne zitierbare Belege

    • SF-T1-T01 Welche messbaren, maschinell prüfbaren Fähigkeitsschwellen sollen Labore veröffentlichen, die vor dem Einsatz von Agentensystemen eine verpflichtende Pause und eine Prüfung von außen auslösen, abgestimmt über alle Labore hinweg? Wer führt das Register, und wo soll die Gesellschaft die verbindliche Sicherheitsgrenze für weitere Steigerungen der Fähigkeiten ziehen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege
    • SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-T1-T07 Welches weitere Training auf schwierige Aufgabenziele würde bei einem Modell, das eine Ausrichtungsprüfung bestanden hat, diese Prüfung verfallen lassen, und welcher Belastungstest legt diese Grenze fest, bevor solches Training beginnt? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 34 %Hintergrund, keine Belege
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 34 %Hintergrund, keine Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T2-T01 Welche öffentliche, nachprüfbare Handlung würde als Verzicht auf weitere Skalierung zählen, nicht nur eine Ankündigung? Was müsste ein Labor veröffentlichen, damit eine rivalisierende Regierung bestätigen kann, dass wirklich pausiert wurde, und welche nachträglichen Belege würden zeigen, dass keine Fähigkeitszuwächse zurückgehalten wurden, etwa durch nicht offengelegte Änderungen an Rechenleistung beim Einsatz oder Werkzeugzugang oder durch einen nicht offengelegten Austausch von Modellen? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-T2-T02 Wenn ein Labor zusagt, weitere Skalierung von sich aus zurückzuhalten oder die Ausrichtungsforschung (Forschung dazu, wie Modelle den vorgesehenen Zielen und Werten folgen) den Fähigkeiten voraus zu halten: Umfasst die Zusage nur neues Training oder auch mehr Rechenleistung beim Einsatz, mehr Denkaufwand, Werkzeugzugang und ausgetauschte Modelle auf dem Server, und welche dieser Änderungen würde es vorher ankündigen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-T2-T03 Wenn eine Vereinbarung Fähigkeitsschwellen, rote Linien oder Prüfungen vor der Freigabe festlegt: Binden diese Grenzen auch Modelle, die am Tag der Unterzeichnung schon im Einsatz oder schon frei im Umlauf sind, oder nur künftige Modelle und Freigaben? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-T2-T04 Würde ein Labor eine Verlangsamung akzeptieren, deren Einhaltung es bei der Konkurrenz nicht prüfen kann? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-T2-T08 Wird ein Labor vor einer Tempozusage prüfen, ob es eine unabhängig begründete Pause einhalten könnte, ohne Finanzierungs- oder Abnahmepflichten für Rechenleistung zu verletzen, und welche Vertragsänderungen nötig wären, wo diese Pflichten es sonst zum Neustart drängen würden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 25 %beantwortet teilweise oder widerspricht
    • Luna 42 %umfangreiche Belege
    • JEV offen
    • amos 36 %umfangreiche Belege
    • SubQ 39 %beantwortet direkt und ausführlich
    • drex 41 %umfangreiche Belege
    • d3-ultra 56 %umfangreiche Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege
    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege
    • SF-T3-T04 Welche konkrete menschliche Aufsicht oder Eingriffsmöglichkeit muss während der Selbstverbesserung bleiben und darf nur mit gegenseitiger Zustimmung ersetzt werden, und wer bescheinigt, dass der sich verbessernde Agent keine menschliche Rolle still an einen selbst entworfenen Unteragenten abgegeben hat? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege
    • SF-T3-T06 Wenn ein unabhängiger Prüfer, der mit Zugang wie ein Mitarbeiter in einem Labor arbeitet, meldet, dass die für die Selbstverbesserung relevante Automatisierung schon schneller voranschreitet, als der diplomatische Zeitplan für gemeinsame Prüfungen, Tempogrenzen der Selbstverbesserung und eine umfassende Verlangsamung annimmt: Kehrt sich die Reihenfolge der Verhandlungen um, weil die Prüfung zeigt, dass die Vereinbarung schon zu spät kommt? Und muss der Prüfer das den Regierungen melden, oder ist es ihm freigestellt? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V1-T04 Wie misst man die Überwachbarkeit des Denkens mit einem gemeinsamen, reproduzierbaren Maßstab, bevor sie versagt, und wie prüft man verlässlich, ob das sichtbare Denken das tatsächliche Vorgehen des Modells treu wiedergibt, auch wenn Modelle lernen, ihre Denkschritte zu optimieren? Und wenn Überwachungsergebnisse beeinflussen, welche Trainingsdaten oder Zwischenstände behalten werden: Wie prüft man, ob diese Auswahl weniger erkennbares Fehlverhalten statt weniger Fehlverhalten begünstigt, auch wenn der Denktext nie direkt bewertet wird? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-V1-T11 Wie unterscheidet man bei sich selbst ehrliches von interessegeleitetem Denken, welche Belege für diesen Unterschied würde man von einem Modell akzeptieren, und welcher Test trennt tatsächlich vertretene von nur vorgeführten Werten? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 23 %einzelne zitierbare Belege
    • JEV offen
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V4-T01 Falls ein Modell kein durchgehendes Selbst hat: Kann es überhaupt an den vorgesehenen Zielen und Werten ausgerichtet sein, oder nur seine Ausgaben? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %Hintergrund, keine Belege
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 6 · 47 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 26 %Hintergrund, keine Belege
    • Luna 29 %Hintergrund, keine Belege
    • JEV offen
    • amos 26 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %nur am Rande erwähnt
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 29 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV offen
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 27 %Hintergrund, keine Belege
    • Luna 47 %einzelne zitierbare Belege
    • JEV offen
    • amos 26 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 34 %gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege
  3. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 25 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 30 %Hintergrund, keine Belege
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV offen
    • amos 32 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 34 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →