Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
caisohne Datum · Q001755

Philosophy Fellowship 2023 | CAIS Project

safe.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt das CAIS Philosophy Fellowship 2023 als Programm zur begrifflichen Klärung von Fragen der KI-Sicherheit und nennt Forschung, Workshops sowie eine Sonderausgabe als Aktivitäten. Laut Programmseite entstanden 18 Arbeiten; die Angaben sind Selbstauskünfte, und der Auszug enthält weder unabhängige Überprüfung noch konkrete Forschungsergebnisse.

Mittel

Der Auszug stellt das CAIS Philosophy Fellowship 2023 vor. Es soll Philosophinnen und Philosophen dabei unterstützen, offene Begriffsfragen der KI-Sicherheit zu untersuchen und neue Forschungsrichtungen anzustoßen. Die Programmseite beschreibt einen dreistufigen Ansatz: Unklarheiten in der Literatur erkennen, sie mit philosophischer Analyse bearbeiten und die Ergebnisse veröffentlichen, damit sie soziotechnische Entscheidungen beeinflussen.

Als Beispiele nennt sie ethisches Verhalten fortgeschrittener KI, Ursachen ihres Verhaltens und mögliche existenzielle Risiken. Laut Seite sollen Fellows bestehende Literatur kritisieren und erweitern und begriffliche Rahmenwerke für die technische Forschung entwickeln. Das Programm berichtet von 18 verfassten Arbeiten zu Themen wie Interpretierbarkeit, Korrigierbarkeit und multipolaren Szenarien. Für den Feldaufbau nennt es 50.000 US-Dollar zur Finanzierung eines Workshops, weitere Workshops und eine Sonderausgabe von *Philosophical Studies*.

Diese Angaben stammen aus der Selbstdarstellung des Programms. Der Auszug bietet weder unabhängige Belege noch Details zu Methoden oder zum späteren Veröffentlichungsstand der Arbeiten und stellt keine konkreten Forschungsergebnisse vor.

Ausführlich lesen

Der bereitgestellte Bericht ist ein Auszug aus der Seite zum CAIS Philosophy Fellowship 2023. Er beschreibt ein Programm, das philosophische Forschung zur begrifflichen Klärung von Fragen der KI-Sicherheit fördern soll. Die Seite begründet den Bedarf damit, dass KI-Fähigkeiten rasch zunehmen, während viele Grundlagen des noch jungen Forschungsfelds ungeklärt seien.

Das Fellowship lädt Philosophinnen und Philosophen unterschiedlicher Hintergründe ein, sich vertieft mit dem Stand der KI-Sicherheitsforschung vertraut zu machen und neue Forschungsrichtungen mitzugestalten. Die Seite skizziert dafür drei Schritte: zunächst begriffliche Unklarheiten in der Literatur identifizieren, dann die jeweiligen Probleme mithilfe sorgfältiger Analyse und einschlägiger philosophischer Forschung untersuchen und schließlich die Ergebnisse veröffentlichen, damit sie die soziotechnische Strategie beeinflussen können.

Als mögliche Fragestellungen nennt der Bericht, wie KI-Systeme in einer sich verändernden Welt eher ethisch handeln könnten, welche Prozesse ihr Verhalten prägen und ob fortgeschrittene KI existenzielle Risiken verursachen könnte. Die Seite behauptet, Philosophinnen und Philosophen seien aufgrund ihrer Erfahrung mit abstrakten und unklar umrissenen Problemen besonders geeignet, solche Fragen zu bearbeiten. Begriffliche Klarheit solle helfen, Risiken nach Dringlichkeit und möglichem Schaden einzuordnen und Strategien von Forschenden und Entscheidungstragenden neu zu bewerten.

Als Ziele führt das Programm Forschung und den Aufbau eines Forschungsfelds an. Laut Seite kritisiert und erweitert das Team bestehende konzeptionelle Literatur zur KI-Sicherheit und entwickelt Rahmenwerke, die technische Forschung unterstützen sollen. Die bisherigen Fellows hätten zusammen 18 eigene Arbeiten verfasst, die dem Bericht zufolge bald veröffentlicht werden sollten; Themen seien unter anderem Interpretierbarkeit, Korrigierbarkeit und multipolare Szenarien. Für den Feldaufbau nennt die Seite 50.000 US-Dollar Fördermittel für einen Workshop, weitere organisierte Workshops sowie eine Sonderausgabe in der Zeitschrift *Philosophical Studies*.

Die Angaben sind Selbstdarstellungen der Programmseite. Der vorliegende Auszug enthält keine methodischen Einzelheiten, unabhängige Überprüfung oder späteren Veröffentlichungsstatus der angekündigten Arbeiten. Er besteht außerdem überwiegend aus Programmzielen und zusammengefassten Erfolgsangaben; konkrete Forschungsergebnisse werden nicht dargestellt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 57 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 37 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 26 %Hintergrund, keine Belege
    • Luna 36 %Hintergrund, keine Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 53 %Hintergrund, keine Belege
    • JEV 41 %nur am Rande erwähnt
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →