Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
caisohne Datum · Q000661

Creator Grants

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

CAIS wirbt für Fördermittel an YouTube-Creator, die in längeren Videos erhebliche KI-Risiken behandeln, etwa Missbrauch, ein Sicherheitsrisiko durch den KI-Wettlauf oder den Verlust menschlicher Kontrolle. Creator behalten laut Webseite die redaktionelle Kontrolle, müssen aber einen Förderhinweis einblenden und CAIS prüft Skript und fertiges Video einmal auf Fakten und Themenbezug. Die Seite erläutert weder Förderbeträge noch Auswahlquoten oder bisherige Wirkung.

Mittel

Die Webseite beschreibt ein Förderprogramm des gemeinnützigen Center for AI Safety (CAIS), das YouTube-Creator bei längeren Videos über schwerwiegende KI-Risiken unterstützen soll. CAIS begründet den Ansatz damit, dass Menschen außerhalb der Technologiebranche über mögliche Gefahren informiert sein sollten. Genannt werden KI-gestützte Pandemien, Waffen und Cyberangriffe, ein riskanter Wettlauf um leistungsfähigere KI, staatliche Überwachung und Propaganda sowie fortgeschrittene Systeme, die sich menschlicher Kontrolle entziehen könnten.

Der Ablauf umfasst ein Erstgespräch, die gemeinsame Themenwahl und eine Fördervereinbarung vor Produktionsbeginn. Creator gestalten ihre Videos selbst. CAIS liest Skript und fertiges Video einmal zur Faktenprüfung und zur Kontrolle des vereinbarten Themas. Für die Veröffentlichung sind ein kurzer gesprochener Förderhinweis, ein Logo und ein Link in der Beschreibung erforderlich. Beratung und Kontakte zu Forschenden sind optional; eine Förderung einzelner oder mehrerer Videos ist möglich.

Laut Seite behalten Creator die redaktionelle Kontrolle, und Ton sowie Format bleiben ihnen überlassen. Bewerbungen werden geprüft. Angaben zu Fördersummen, Fristen, Auswahlquoten oder zur bisherigen Wirkung des Programms fehlen. Die aufgeführten Gefahren sind die von CAIS beschriebenen Risiken, keine im Bericht belegten eingetretenen Ereignisse.

Ausführlich lesen

Die Webseite stellt ein Förderprogramm des gemeinnützigen Center for AI Safety (CAIS) für YouTube-Creator vor. Nach eigener Darstellung soll es längere Videos unterstützen, die auf Risiken fortgeschrittener KI aufmerksam machen. Als Begründung führt die Seite an, dass viele Menschen außerhalb der Technologiebranche wenig über die Fähigkeiten aktueller KI wüssten und öffentliche Debatten sowie politische Entscheidungen Wissen über mögliche Gefahren voraussetzten. Der Programmleiter Drew verweist dabei auch auf seinen eigenen Kanal Species, der laut Webseite durchschnittlich rund 1,5 Millionen Aufrufe pro Video erreiche.

Der beschriebene Ablauf beginnt mit einem kurzen Kennenlerngespräch über den Kanal und mögliche Videos. Nach gemeinsamer Themenwahl wird vor Produktionsbeginn eine Fördervereinbarung unterzeichnet. Die Creator erstellen das Video in ihrem eigenen Stil; CAIS liest das Skript und das fertige Video, um Fakten zu prüfen und festzustellen, ob das vereinbarte Thema weiterhin behandelt wird. Rückmeldungen sind möglich. Bei Veröffentlichung ist ein ungefähr 15 Sekunden langer gesprochener Hinweis auf die Förderung durch CAIS vorgesehen, dazu dessen Logo im Video sowie ein Förderhinweis mit Link in der Beschreibung. Bei beiderseitig guter Erfahrung möchte das Programm weitere Videos unterstützen; auch eine Förderung für nur ein Video ist willkommen. Strategische Beratung zu Titeln, Vorschaubildern und Skripten sowie Kontakte zu Forschenden werden optional angeboten.

Die Webseite sagt ausdrücklich, dass Creator die redaktionelle Kontrolle behalten: Das Thema wird vorab gemeinsam festgelegt, anschließend werden Skript und Video einmal zur Faktenprüfung und Themenkontrolle gelesen. Die möglichen Risiken sollen einen wesentlichen Teil des Videos ausmachen, während Ton und Format den Creatorn überlassen bleiben. Willkommen seien Personen aus unterschiedlichen Hintergründen und Themenfeldern, sofern sie die Risiken ernst nähmen.

Als Förderthemen nennt CAIS vier Bereiche: den möglichen Missbrauch von KI zur Entwicklung von Pandemien, chemischen Waffen oder Cyberangriffen sowie autonome Waffen; den Wettlauf von Staaten und Unternehmen um leistungsfähigere KI, der laut Darstellung Sicherheitskompromisse begünstigen könne; den Einsatz von KI durch Regierungen für Propaganda, Unterdrückung und Einschränkung von Bürgerrechten; und fortgeschrittene KI-Systeme, die künftig eigene, menschlichen Interessen entgegenstehende Ziele verfolgen oder sich Kontrolle entziehen könnten. Die Seite präsentiert diese Punkte als Risiken, nicht als belegte eingetretene Ereignisse.

Alle Bewerbungen würden geprüft; bei passender Eignung des Kanals werde CAIS sich mit weiteren Schritten melden. Die Seite nennt jedoch weder Förderbeträge noch konkrete Auswahlquoten, Fristen oder Bewertungskriterien im Detail. Sie beschreibt das Programm und seine Ziele, liefert aber keine Ergebnisse zur bisherigen Wirkung der geförderten Videos. CAIS ordnet die Förderung seiner Mission zu, gesellschaftsweite Risiken durch KI zu verringern, und verweist auf eine 2023 veröffentlichte Erklärung zur Priorität des Risikos einer KI-bedingten Auslöschung, die laut Webseite Hunderte Fachleute und Persönlichkeiten unterzeichnet hätten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Fassungen von Luna (kurz und mittel) wurden geprüft; sie sind sachlich korrekt, enthalten aber keine erfundenen Angaben. Beide lassen das Statement-Kapitel aus. Die Einordnung stützt sich allein auf den Berichtstext; Cookie-Listen und Metadaten dienen nicht als Beleg.

Im Bericht, aber nicht in der Zusammenfassung

  • Das Statement on AI Risk von CAIS (2023), unterzeichnet unter anderem von Geoffrey Hinton und Yoshua Bengio, und die Forderung, das Risiko eines KI-bedingten Aussterbens als globale Priorität zu behandeln
  • Die persönliche Motivation des Programmleiters Drew und sein YouTube-Kanal Species mit durchschnittlich etwa 1,5 Millionen Aufrufen pro Video

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 37 %nur am Rande erwähnt
    • JEV 61 %nur am Rande erwähnt
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 30 %nur am Rande erwähnt
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 63 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 31 %nur am Rande erwähnt
    • amos 30 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 25 %nur am Rande erwähnt
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 45 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 35 %nur am Rande erwähnt
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 46 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →