Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset6. Mai 2026 · Q001496

Beyond P(doom) for AI Risk: Quantifying Uncertainty Without Probability | Center for Security and Emerging Technology Georgetown AI

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur die Executive Summary eines CSET-Berichts. Sie argumentiert, dass bei KI-Risiken oft Unwissen statt Zufall die zentrale Unsicherheit bildet und daher neben Wahrscheinlichkeiten auch „Belief“ und „Plausibility“ betrachtet werden sollten. Analysten sollen zusätzlich nach den Belegen für und gegen ein mögliches Risiko fragen; konkrete KI-Risikoberechnungen enthält der Auszug nicht.

Mittel

Der bereitgestellte Text ist nur ein Auszug, nämlich die Executive Summary eines CSET-Kurzberichts samt Abbildungshinweis. Er sagt, dass es wenige empirische Belege für die Einschätzung möglicher katastrophaler KI-Folgen gibt und Experten deshalb oft subjektive Wahrscheinlichkeiten wie P(doom) schätzen. Der Bericht hält solche Wahrscheinlichkeiten aber nicht für das einzige geeignete Mittel: Bei KI-Risiken sei Unwissen häufig wichtiger als Zufall.

Ein Würfelbeispiel unterscheidet Wahrscheinlichkeit von „Belief“ (wie stark Belege ein Ergebnis stützen) und „Plausibility“ (was nach Abzug der Gegenbelege noch möglich ist). Die Differenz zwischen Belief und Plausibility bilde Unwissen ab; ohne Unwissen seien beide gleich der Wahrscheinlichkeit. Der Bericht empfiehlt, zusätzlich nach der Stärke der Belege für und gegen ein hypothetisches Risiko zu fragen. Das soll Analysten helfen, Unsicherheit offener zu behandeln und weitere mathematische Verfahren einzusetzen. Der Auszug enthält keine konkreten KI-Risikoberechnungen oder empirischen Ergebnisse des vollständigen Berichts.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält die Executive Summary eines CSET-Kurzberichts zu Unsicherheit bei KI-Risiken sowie einen knappen Abbildungshinweis, nicht den vollständigen Bericht. Daher lassen sich nur die dort zusammengefassten Aussagen wiedergeben.

Der Bericht geht davon aus, dass es nur wenige empirische Belege gibt, anhand derer sich mögliche katastrophale Folgen künstlicher Intelligenz zuverlässig einschätzen lassen. Fachleute greifen deshalb häufig auf subjektive Schätzungen der Wahrscheinlichkeit eines solchen Ereignisses zurück, oft als P(doom) bezeichnet. Der Auszug argumentiert, dass Wahrscheinlichkeiten jedoch nicht das einzige geeignete Mittel für Risikoanalysen und politische Entscheidungen seien. Wo Unwissen die Unsicherheit stärker prägt als Zufall, könnten andere mathematische Verfahren hilfreicher sein.

Zur Veranschaulichung dient ein Würfel, von dem nur drei Seiten bekannt sind: Eine trägt einen Stern, zwei sind leer, und drei sind unbekannt. Je nachdem, was gefragt wird, ergeben sich unterschiedliche Einschätzungen: Der Anteil der bekannten Seiten mit Stern beträgt 1/3; die Sicherheit, dass der Wurf einen Stern zeigt, wird mit 1/6 beschrieben; und ein Stern könnte auf vier der sechs Seiten vorkommen, was einer Plausibilität von 4/6 entspricht. Das Beispiel soll zeigen, dass Wahrscheinlichkeit, evidenzbasierte Überzeugung und Möglichkeit verschiedene Fragen beantworten.

Der Auszug stellt „Belief“ (Überzeugung) als Maß dafür vor, wie stark die vorhandenen Belege ein Ergebnis stützen. „Plausibility“ (Plausibilität) beschreibt, was nach Abzug der Gegenbelege noch möglich bleibt. Der Abstand zwischen beiden Größen steht demnach für Unwissen. Wenn kein Unwissen besteht, fallen Belief und Plausibility zusammen und entsprechen der Wahrscheinlichkeit. Der Bericht behauptet, dass diese Alternativen mathematisch ebenso streng sein können wie probabilistische Verfahren und sich mit vertrauten Begriffen verständlich vermitteln lassen.

Als praktische Empfehlung schlägt der Auszug vor, bei KI-Risikobewertungen zwei zusätzliche Fragen zu stellen: Wie sicher ist es beziehungsweise wie stark sind die Belege dafür, dass ein hypothetisches Risiko eintritt? Und wie sicher ist es beziehungsweise wie stark sind die Belege dagegen? Laut Bericht könnten diese Fragen Analysten dazu bringen, Unsicherheitsquellen direkter offenzulegen und weitere Methoden einzubeziehen. Die zugrunde liegenden Techniken seien bereits vorhanden; auch die verwendeten Begriffe seien geläufig.

Der Auszug nennt keine konkreten KI-Risikoszenarien, Berechnungen aus Expertenbefragungen oder empirischen Ergebnisse. Er skizziert vielmehr die Begründung und den vorgeschlagenen Fragenrahmen; weitergehende Einzelheiten des vollständigen Berichts sind im bereitgestellten Text nicht enthalten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 61 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 56 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →