Sam Altmans Rede vor dem Sicherheitsrat der Vereinten Nationen
Zusammenfassung
Kurz
In seiner Rede vor dem UN-Sicherheitsrat beschreibt Sam Altman KI als Chance, menschliche Fähigkeiten zu erweitern, aber auch als Gefahr für menschliche Kontrolle und eine gerechte Machtverteilung. Er fordert demokratische Mitsprache und internationale Standards für Risikobewertung, Aufsicht und Vorfallmeldungen; die im Bericht genannten Modellleistungen und Sicherheitsbehauptungen werden dort nicht unabhängig belegt.
Mittel
Der Bericht gibt den Wortlaut einer Rede wieder, die OpenAI zufolge CEO Sam Altman am 23. September 2026 vor dem UN-Sicherheitsrat hielt. Altman beschreibt KI zugleich als Chance für wissenschaftliche Entdeckungen, bessere Gesundheit und Bildung sowie mehr menschliche Handlungsmöglichkeiten und als Risiko für Kontrolle und Machtverteilung.
Er hebt zwei Gefahren hervor: KI könnte sich so schnell und autonom entwickeln, dass Menschen ihre Entscheidungen nicht mehr verstehen oder steuern können; außerdem könnte sie Macht bei wenigen Personen, Unternehmen oder Staaten konzentrieren. Als Grundsätze nennt er menschliche Kontrolle, Fortschritt zum Nutzen der Menschen und die Stärkung aller. Unternehmen dürften demokratische Prozesse nicht ersetzen, so seine Position.
International fordert er gemeinsame Standards, um Fähigkeiten und Risiken zu messen, Schutzmaßnahmen und Aufsicht zu beurteilen, Vorfälle rasch zu melden und Informationen über Bedrohungen auszutauschen. Die Standards sollten unterschiedliche Anbieter und Modelltypen berücksichtigen. Altman nennt zudem mathematische Leistungen von OpenAI-Modellen als Beispiel für Potenzial. Der Bericht belegt diese Behauptung nicht unabhängig und prüft weder Sicherheitsgarantien noch die Umsetzbarkeit der Vorschläge. Er gibt die Positionen und Forderungen des Redners wieder.
Ausführlich lesen
Der Bericht dokumentiert den Wortlaut einer Rede, die OpenAI zufolge CEO Sam Altman am 23. September 2026 vor dem Sicherheitsrat der Vereinten Nationen gehalten hat. Altman beschreibt KI als Technologie mit großem Potenzial, aber auch unmittelbaren Risiken. Er stellt zwei mögliche Entwicklungen gegenüber: KI könnte Kreativität, wissenschaftliche Entdeckungen und menschliche Handlungsmöglichkeiten erweitern; sie könnte aber auch Umbrüche verschärfen, Macht konzentrieren und Entscheidungen der menschlichen Kontrolle entziehen. Diese Einschätzungen sind Aussagen des Redners, keine im Bericht unabhängig geprüften Ergebnisse.
Altman nennt zwei zentrale Gefahren. Erstens könnten leistungsfähigere und autonomere Systeme sich so rasch entwickeln, dass Menschen ihre Tätigkeit nicht mehr verstehen oder rechtzeitig eingreifen können. Besonders relevant sei dies, wenn KI-Entwicklung zunehmend automatisiert werde und Systeme an ihrer eigenen Verbesserung mitwirkten. Er erklärt, OpenAI wolle keine Systeme entwickeln, solange das Unternehmen nicht überzeugende Garantien für Ausrichtung an menschlichen Zielen, Überwachbarkeit und Sicherheit geben könne. Katastrophenrisiken in jeder von ihm genannten Größenordnung bezeichnet er als nicht akzeptabel. Zweitens könne KI so viel Macht bei einzelnen Personen, Unternehmen oder Staaten bündeln, dass diese anderen ihre Weltanschauung aufzwingen könnten.
Als Leitlinien für einen Umgang mit diesen Risiken führt Altman drei Grundsätze an: Menschen müssten bei Entscheidungen über KI und bei der Kontrolle der Systeme im Mittelpunkt bleiben; wissenschaftlicher Fortschritt und wirtschaftliches Wachstum sollten von Menschen gestaltet werden und ihnen zugutekommen; und die Technologie solle Menschen weltweit stärken. KI solle etwa Forschende, Ärztinnen und Ärzte, Lehrkräfte, Unternehmen und Gemeinschaften unterstützen, statt menschliches Urteil oder Werte zu ersetzen. Als Beispiel für den Fortschritt nennt er mathematische Fähigkeiten von OpenAI-Modellen und behauptet, eines davon habe kürzlich das Millennium-Problem der Navier-Stokes-Gleichungen gelöst. Der Bericht liefert dazu keine unabhängigen Belege oder nähere Erläuterungen.
Altman fordert außerdem, dass Unternehmen demokratische Prozesse nicht ersetzen. Entscheidungen über KI sollten von rechenschaftspflichtigen Regierungen und demokratischen Institutionen mitgestaltet werden. International brauche es ergänzende nationale und internationale Standards für KI an der Grenze der Fähigkeiten: zur Messung von Fähigkeiten und Risiken, zur Bewertung von Schutzmaßnahmen und menschlicher Aufsicht sowie zum Vergleich und zur Überprüfung der Einhaltung. Er befürwortet schnelle Meldungen von Vorfällen, gemeinsame Klassifizierungsregeln und sichere Kanäle für den Austausch über Schwachstellen und Bedrohungen. Standards sollten laut seiner Rede unterschiedliche Modelltypen und Marktteilnehmer berücksichtigen, ohne etablierte Anbieter zu bevorzugen; Regierungen sollten selbst entscheiden können, wie sie sie in nationales Recht überführen.
Die Rede ist ein programmatischer Appell und stellt Altmans Positionen und Vorschläge dar. Sie sagt, OpenAI habe nicht auf alle Fragen Antworten und sei offen für Zusammenarbeit. Der Bericht enthält jedoch keine unabhängige Prüfung der behaupteten Modellleistungen, der Sicherheitsgarantien oder der praktischen Umsetzbarkeit der vorgeschlagenen Standards. Der abschließende Gegensatz zwischen einer von Machtkonzentration geprägten Zukunft und einer demokratisch gestalteten, menschenstärkenden KI-Zukunft fasst die gewünschte Richtung des Redners zusammen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung von Luna, die die Rede vollständig und mit korrekten Zahlen und Namen wiedergibt. Die kurze Fassung ist inhaltlich ebenfalls treu, lässt aber die Kernbelege und Grundsätze weitgehend aus. Die Einordnung bezieht sich nur auf die drei Sammelfragen, da keine Teilfragen angegeben waren.
Im Bericht, aber nicht in der Zusammenfassung
- Die konkrete Behauptung, ein OpenAI-Modell habe die Navier-Stokes-Gleichungen als Millennium-Problem gelöst
- Die Warnung vor rekursiver Selbstverbesserung als Beschleuniger des Risikos
- Die Selbstverpflichtung, das Tempo selbst zu drosseln, und die Zurückweisung des Wettlauf-Arguments
- Die Forderung, Modelle nur zu trainieren, wenn sich menschliche Kontrolle überzeugend darlegen lässt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 24 %nur am Rande erwähnt
- Luna 74 %einzelne zitierbare Belege
- JEV 42 %Hintergrund, keine Belege
- amos 30 %einzelne zitierbare Belege
- SubQ 42 %einzelne zitierbare Belege
- drex 34 %einzelne zitierbare Belege
- d3-ultra
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 27 %nur am Rande erwähnt
- Luna 48 %einzelne zitierbare Belege
- JEV 40 %einzelne zitierbare Belege
- amos 28 %einzelne zitierbare Belege
- SubQ 44 %einzelne zitierbare Belege
- drex 41 %einzelne zitierbare Belege
- d3-ultra
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 28 %Hintergrund, keine Belege
- Luna 45 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 37 %nur am Rande erwähnt
- SubQ 40 %nur am Rande erwähnt
- drex 38 %nur am Rande erwähnt
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 21 %Hintergrund, keine Belege
- Luna 65 %einzelne zitierbare Belege
- JEV 49 %beantwortet teilweise oder widerspricht
- amos 40 %einzelne zitierbare Belege
- SubQ 48 %einzelne zitierbare Belege
- drex 48 %einzelne zitierbare Belege
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 43 %einzelne zitierbare Belege
- JEV 49 %einzelne zitierbare Belege
- amos 32 %Hintergrund, keine Belege
- SubQ 36 %einzelne zitierbare Belege
- drex 43 %Hintergrund, keine Belege
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 77 %einzelne zitierbare Belege
- JEV 41 %Hintergrund, keine Belege
- amos 28 %einzelne zitierbare Belege
- SubQ 30 %Hintergrund, keine Belege
- drex 50 %Hintergrund, keine Belege
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 55 %einzelne zitierbare Belege
- JEV 36 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 30 %Hintergrund, keine Belege
- drex 41 %Hintergrund, keine Belege
- d3-ultra
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 42 %Hintergrund, keine Belege
- Luna 56 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 39 %gleiches Oberthema, hilft nicht
- Luna 38 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 28 %Hintergrund, keine Belege
- drex 28 %einzelne zitierbare Belege
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 25 %Hintergrund, keine Belege
- Luna 47 %einzelne zitierbare Belege
- JEV 52 %einzelne zitierbare Belege
- amos 29 %nur am Rande erwähnt
- SubQ 27 %Hintergrund, keine Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 40 %Hintergrund, keine Belege
- Luna 65 %einzelne zitierbare Belege
- JEV 46 %einzelne zitierbare Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 35 %Hintergrund, keine Belege
- drex 37 %Hintergrund, keine Belege
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 51 %Hintergrund, keine Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 30 %Hintergrund, keine Belege
- Luna 71 %einzelne zitierbare Belege
- JEV 50 %einzelne zitierbare Belege
- amos 34 %Hintergrund, keine Belege
- SubQ 34 %Hintergrund, keine Belege
- drex 46 %Hintergrund, keine Belege
- d3-ultra
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 36 %gleiches Oberthema, hilft nicht
- Luna 67 %Hintergrund, keine Belege
- JEV 48 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 27 %Hintergrund, keine Belege
- Luna 57 %einzelne zitierbare Belege
- JEV 30 %Hintergrund, keine Belege
- amos 35 %Hintergrund, keine Belege
- SubQ 34 %Hintergrund, keine Belege
- drex 33 %Hintergrund, keine Belege
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 32 %Hintergrund, keine Belege
- Luna 73 %einzelne zitierbare Belege
- JEV 45 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 32 %Hintergrund, keine Belege
- drex 36 %Hintergrund, keine Belege
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 31 %Hintergrund, keine Belege
- Luna 60 %einzelne zitierbare Belege
- JEV 58 %einzelne zitierbare Belege
- amos 33 %nur am Rande erwähnt
- SubQ 27 %Hintergrund, keine Belege
- drex 29 %nur am Rande erwähnt
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 26 %nur am Rande erwähnt
- Luna 39 %beantwortet teilweise oder widerspricht
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 27 %einzelne zitierbare Belege
- SubQ 34 %einzelne zitierbare Belege
- drex 43 %einzelne zitierbare Belege
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 30 %Hintergrund, keine Belege
- Luna 36 %einzelne zitierbare Belege
- JEV 41 %einzelne zitierbare Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 31 %Hintergrund, keine Belege
- drex 42 %Hintergrund, keine Belege
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 29 %Hintergrund, keine Belege
- Luna 56 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 34 %Hintergrund, keine Belege
- SubQ 36 %Hintergrund, keine Belege
- drex 51 %Hintergrund, keine Belege
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 33 %einzelne zitierbare Belege
- JEV 47 %beantwortet teilweise oder widerspricht
- amos 31 %Hintergrund, keine Belege
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 35 %Hintergrund, keine Belege
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %Hintergrund, keine Belege
- Luna 42 %beantwortet teilweise oder widerspricht
- JEV 44 %beantwortet teilweise oder widerspricht
- amos 32 %einzelne zitierbare Belege
- SubQ 31 %einzelne zitierbare Belege
- drex 36 %einzelne zitierbare Belege
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 26 %Hintergrund, keine Belege
- Luna 38 %Hintergrund, keine Belege
- JEV 44 %einzelne zitierbare Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 31 %Hintergrund, keine Belege
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 32 %Hintergrund, keine Belege
- Luna 55 %einzelne zitierbare Belege
- JEV 41 %Hintergrund, keine Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 30 %Hintergrund, keine Belege
- drex 31 %Hintergrund, keine Belege
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 67 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 30 %Hintergrund, keine Belege
- Luna 57 %einzelne zitierbare Belege
- JEV 46 %Hintergrund, keine Belege
- amos 37 %nur am Rande erwähnt
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 72 %Hintergrund, keine Belege
- JEV 62 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 49 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 26 %Hintergrund, keine Belege
- Luna 36 %einzelne zitierbare Belege
- JEV 41 %Hintergrund, keine Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 31 %Hintergrund, keine Belege
- Luna 84 %Hintergrund, keine Belege
- JEV 45 %Hintergrund, keine Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 47 %gleiches Oberthema, hilft nicht
- JEV 39 %gleiches Oberthema, hilft nicht
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 34 %Hintergrund, keine Belege
- Luna 64 %einzelne zitierbare Belege
- JEV 40 %einzelne zitierbare Belege
- amos 38 %nur am Rande erwähnt
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 35 %Hintergrund, keine Belege
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 26 %Hintergrund, keine Belege
- Luna 70 %einzelne zitierbare Belege
- JEV 52 %beantwortet teilweise oder widerspricht
- amos 29 %einzelne zitierbare Belege
- SubQ 35 %einzelne zitierbare Belege
- drex 37 %einzelne zitierbare Belege
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 23 %beantwortet teilweise oder widerspricht
- Luna 57 %beantwortet teilweise oder widerspricht
- JEV 56 %beantwortet direkt und ausführlich
- amos 32 %beantwortet teilweise oder widerspricht
- SubQ 29 %beantwortet teilweise oder widerspricht
- drex 32 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 51 %Hintergrund, keine Belege
- JEV 48 %Hintergrund, keine Belege
- amos 33 %nur am Rande erwähnt
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 30 %beantwortet teilweise oder widerspricht
- Luna 56 %beantwortet teilweise oder widerspricht
- JEV 48 %beantwortet teilweise oder widerspricht
- amos 30 %einzelne zitierbare Belege
- SubQ 31 %einzelne zitierbare Belege
- drex 36 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 24 %beantwortet teilweise oder widerspricht
- Luna 48 %beantwortet teilweise oder widerspricht
- JEV 76 %beantwortet direkt und ausführlich
- amos 27 %einzelne zitierbare Belege
- SubQ 34 %beantwortet teilweise oder widerspricht
- drex 41 %beantwortet teilweise oder widerspricht
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 50 %Hintergrund, keine Belege
- JEV 34 %nur am Rande erwähnt
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 69 %Hintergrund, keine Belege
- JEV 47 %gleiches Oberthema, hilft nicht
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 76 %Hintergrund, keine Belege
- JEV 44 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv