Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
caisohne Datum · Q000668

Field Building Projects

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

CAIS stellt aktive und frühere Projekte zur Förderung von KI-Sicherheitsforschung vor, darunter Bildungsangebote, Forschungsstipendien, Benchmarks, Wettbewerbe und kostenlosen Zugang zu einem Rechencluster. Die Seite beschreibt vor allem Ziele und Formate; konkrete Belege für die Wirkung der Initiativen bietet sie kaum.

Mittel

CAIS beschreibt mehrere Initiativen, mit denen die Organisation die Forschung zu KI-Sicherheit unterstützen und die Forschungsgemeinschaft erweitern will. Dazu zählen Infrastruktur und Ressourcen, interdisziplinäre Vorhaben zu gesellschaftlichen Folgen von KI und Bildungsangebote.

Zu den fünf als aktiv aufgeführten Projekten gehören ein dreimonatiges Forschungsstipendium zu gesellschaftlichen Auswirkungen fortgeschrittener KI, ein nichttechnisches Lehrbuch mit Onlinekurs, die Sammlung schwieriger Fragen für künftige KI-Tests und der Benchmark-Wettbewerb SafeBench. Für SafeBench nennt die Seite insgesamt 250.000 US-Dollar Preisgeld. Außerdem bietet CAIS Forschenden kostenlosen Zugang zu einem Rechencluster für große KI-Systeme.

Als frühere Projekte führt CAIS unter anderem einen offenen Brief zu KI-Risiken, ein Philosophie-Stipendium, einen Workshop und Wettbewerbe zu Trojanern und Robustheit von ML-Modellen auf. Die Seite erläutert überwiegend Ziele und Angebote; konkrete Wirkungsnachweise enthält sie kaum. Aussagen zu Reichweite und Bedeutung sind als Angaben von CAIS zu verstehen.

Ausführlich lesen

Die Seite stellt die Projekte des Center for AI Safety (CAIS) zur Unterstützung der Forschung an KI-Sicherheit vor. CAIS erklärt, die Herausforderung übersteige die Möglichkeiten einzelner Forschungslabore. Die Organisation wolle die bestehende Forschungsgemeinschaft stärken, den Einstieg erleichtern und sie vergrößern. Dafür nennt sie drei Ansätze: Infrastruktur und Ressourcen bereitstellen, interdisziplinäre Projekte zu gesellschaftlichen Auswirkungen von KI anstoßen und Lernangebote für Neueinsteiger schaffen.

Als aktive Projekte führt die Seite fünf Initiativen auf. Das dreimonatige AI Fellowship untersucht gesellschaftliche Folgen fortgeschrittener KI sowie Institutionen und politische Maßnahmen, die eine angemessene Reaktion unterstützen könnten. Das Lehrbuch samt Onlinekurs „AI Safety, Ethics, and Society“ soll nichttechnisch erklären, wie heutige KI-Systeme funktionieren, weshalb manche Fachleute vor schwerwiegenden gesellschaftlichen Risiken weiterer KI-Fortschritte warnen und wie sich diese Risiken bewältigen oder mindern ließen. Bei „Humanity’s Last Exam“ sammelt CAIS gemeinsam mit anderen besonders schwierige und breit gefächerte Fragen, um künftige KI-Fähigkeiten besser bewerten zu können. Der Wettbewerb SafeBench soll Forschung an Benchmarks fördern, die KI-Risiken bewerten und verringern; laut Seite sind 250.000 US-Dollar Preisgeld vorgesehen, verteilt auf fünf Preise zu je 20.000 und drei zu je 50.000 US-Dollar. Über einen Rechencluster bietet CAIS Forschenden kostenlosen Zugang zu Rechenleistung für große KI-Systeme.

Unter den früheren Projekten nennt die Seite einen offenen Brief zu KI-Risiken, der laut CAIS von Hunderten Fachleuten und Personen des öffentlichen Lebens unterzeichnet und unter anderem in der New York Times, dem Wall Street Journal und der Washington Post behandelt wurde. Weitere abgeschlossene Vorhaben sind ein siebenmonatiges Philosophy Fellowship zu gesellschaftlichen Folgen und Risiken fortgeschrittener KI, ein ML-Safety-Workshop bei NeurIPS 2022, ein Wettbewerb zur Erkennung versteckter Funktionen in neuronalen Netzen sowie drei Auszeichnungen bei ECCV 2022 für Arbeiten zu Robustheit gegenüber weiter gefassten Bedrohungen als kleinen Störungen.

Die Seite beschreibt damit vor allem Ziele, Formate und einzelne Ressourcen der Projekte. Sie liefert kaum Angaben zu deren konkreten Ergebnissen oder Wirkung; auch die Aussagen zur Bedeutung und Reichweite stammen aus der Selbstdarstellung von CAIS.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht ist zu großen Teilen Cookie-Banner-Text und Navigation; die inhaltlichen Aussagen zu CAIS-Projekten sind knapp, und die Einordnung stützt sich nur auf die dort genannten Angebote.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Offene Brief Statement on AI Risk wurde von hunderten KI-Experten und öffentlichen Persönlichkeiten unterzeichnet und weltweit in Medien wie NYT, WSJ und Washington Post aufgegriffen
  • Das CAIS Philosophy Fellowship dauerte sieben Monate
  • SafeBench verteilt die Preise auf fünf Preise à 20.000 und drei Preise à 50.000 Dollar

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 35 %nur am Rande erwähnt
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →