Concordia AI 2025 Impact Highlights
Zusammenfassung
Kurz
Concordia AI schildert für 2025 internationale Foren, Forschung und Beratung zur KI-Sicherheit, darunter einen Risikomanagement-Rahmen mit dem Shanghai AI Lab und Bewertungen zahlreicher KI-Modelle. Die Organisation berichtet außerdem von mehr öffentlicher Kommunikation, einem neuen Büro in Singapur und einem gewachsenen Team; unabhängige Wirkungsnachweise enthält der Tätigkeitsbericht nicht.
Mittel
Concordia AI berichtet über seine Arbeit im Jahr 2025 vor dem Hintergrund rascher KI-Fortschritte und wachsender Risiken durch Missbrauch, Fehlfunktionen und systemische Gefahren. Die Organisation nennt internationale Foren und Workshops in China, Singapur und bei multilateralen Treffen als zentrale Arbeitsfelder. Ihr Forum bei der World AI Conference habe rund 30 Fachleute, mehr als 200 Personen vor Ort und über 14.000 Livestream-Aufrufe erreicht. Zudem beteiligte sie sich nach eigener Darstellung an UN-Dialogen und Initiativen zu KI und Biosecurity.
Zu den Forschungsschwerpunkten gehörten Berichte zur KI-Sicherheit in China und Singapur, Beiträge zu internationalen Forschungsarbeiten sowie Veröffentlichungen zu Risiken autonomer KI. Für den chinesischen Kontext hebt Concordia AI einen gemeinsam mit dem Shanghai AI Lab entwickelten Risikomanagement-Rahmen, Analysen von über 20 Sprachmodellen und eine Plattform zur Bewertung von 50 Modellen anhand von 18 Benchmarks hervor. Weitere Aktivitäten umfassten Beratung von Unternehmen, Beiträge zu Normen und mehr als 80 WeChat-Artikel.
Die Organisation eröffnete ein Büro in Singapur und wuchs laut Bericht von acht auf zwölf Teammitglieder. Die Angaben stammen aus einem Selbstdarstellungsbericht; eine unabhängige Prüfung oder ein Nachweis, dass die Aktivitäten Risiken messbar gesenkt haben, wird nicht vorgelegt.
Ausführlich lesen
Der Bericht stellt Concordia AI zufolge die Organisationserfolge des Jahres 2025 vor. Als Ausgangspunkt nennt er den schnellen Fortschritt leistungsfähiger KI und wachsende Risiken durch Missbrauch, Fehlfunktionen und systemische Gefahren. Concordia AI beschreibt seine Aufgabe darin, eine sichere, an globalen Interessen ausgerichtete Entwicklung und Nutzung von KI zu unterstützen. Dafür arbeite die Organisation mit Forschung, Beratung von Unternehmen und politischen Akteuren sowie internationalem Austausch.
Ein Schwerpunkt lag auf internationalen Treffen. Als größte eigene Veranstaltung nennt der Bericht das Sicherheits- und Governance-Forum bei der World AI Conference in Shanghai: Rund 30 Fachleute nahmen teil, mehr als 200 Personen besuchten die Veranstaltung vor Ort und über 14.000 sahen den Livestream. Concordia AI berichtet außerdem von Workshops und Veranstaltungen in China, Singapur und bei internationalen Konferenzen sowie von Beiträgen zu multilateralen Gesprächen, UN-Konsultationen und Biosecurity-Initiativen. Dazu zählten die Unterzeichnung eines gemeinsamen Biosecurity-Statements und die Beteiligung an Dialogen zu Risiken an der Schnittstelle von KI und Biowissenschaften.
Bei Forschung und öffentlicher Kommunikation hebt die Organisation Berichte zur Lage der KI-Sicherheit in China und Singapur hervor. Der China-Bericht sei in Medien aufgegriffen und internationalen Organisationen vorgestellt worden. Außerdem veröffentlichte Concordia AI nach eigener Angabe 20 Newsletter-Ausgaben; die Zahl der Abonnenten sei 2025 um 73 Prozent gestiegen. Mitarbeitende wirkten an internationalen Forschungsberichten und Arbeiten zu globalen Sicherheitsprioritäten, Täuschung durch KI, autonomen Agenten und Risikominderungen mit.
Für China beschreibt der Bericht die gemeinsame Veröffentlichung eines Risikomanagement-Rahmens mit dem Shanghai AI Lab. Dieser enthalte laut Concordia AI Leitlinien, Warnstufen und Grenzen für Risiken wie Cyberangriffe, biologische Gefahren, Manipulation und Kontrollverlust. Die Organisation berichtet auch über Risikoanalysen von mehr als 20 fortgeschrittenen Sprachmodellen sowie eine Plattform, die 50 Modelle von 15 Entwicklern anhand von 18 offenen Benchmarks auswerte. Hinzu kamen Beiträge zu chinesischen Normen, Beratung von KI-Unternehmen zur Risikosteuerung und EU-Vorgaben sowie ein chinesischsprachiger Bericht über KI und Biowissenschaften. Über 80 neue WeChat-Beiträge hätten laut Bericht mehr als 4.900 Abonnenten erreicht.
Organisatorisch eröffnete Concordia AI ein Büro in Singapur, vergrößerte das Team von acht auf zwölf Personen und stellte weiteres Wachstum in Aussicht. Außerdem nahm die Organisation eine neue Website in Betrieb und trat zwei internationalen Zusammenschlüssen bei. Die Darstellung ist ein Tätigkeitsbericht der Organisation: Zahlen, Reichweite und Wirkungen werden von Concordia AI selbst angegeben; eine unabhängige Überprüfung oder systematische Wirkungsmessung legt der Text nicht vor. Er beschreibt Aktivitäten und Veröffentlichungen, belegt aber nicht, in welchem Umfang diese die genannten Risiken tatsächlich verringert haben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat drei Zusammenfassungen (kurz, mittel) geliefert; bewertet wurden beide gemeinsam, da keine davon Angaben erfindet. Für die Einordnung gab es keine Teilfragen, daher wurden nur die drei Sammelfragen bewertet.
Im Bericht, aber nicht in der Zusammenfassung
- Die Berichte State of AI Safety in China 2025 und State of AI Safety in Singapore sowie die Mitwirkung am International AI Safety Report und am Singapore Consensus werden nicht genannt
- Die Shanghai-Konsens-Erklärung der Dialoge zur KI-Sicherheit und die Aufzählung der Roten Linien und Frühwarnschwellen im Risikomanagement-Rahmen fehlen
- Die Empfehlungen an Regierungen zur Eindämmung von AIxBio-Risiken und die Erklärung zu Biosicherheitsrisiken fehlen
- Die Beratung zu EU AI Act und dem Verhaltenskodex für KI mit allgemeinem Verwendungszweck sowie die Normungsbeiträge in China werden nur allgemein erwähnt
- Die Zunahme der Abonnenten um 73 Prozent und der Kohorte von 34 Mitarbeitenden fehlen in der Zusammenfassung
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 74 %Hintergrund, keine Belege
- JEV
- amos 36 %nur am Rande erwähnt
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 30 %Hintergrund, keine Belege
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 35 %Hintergrund, keine Belege
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 24 %Hintergrund, keine Belege
- Luna 36 %einzelne zitierbare Belege
- JEV
- amos 29 %Hintergrund, keine Belege
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 40 %gleiches Oberthema, hilft nicht
- Luna 46 %Hintergrund, keine Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 80 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 26 %Hintergrund, keine Belege
- Luna 50 %umfangreiche Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 41 %einzelne zitierbare Belege
- drex 37 %einzelne zitierbare Belege
- d3-ultra 52 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 23 %Hintergrund, keine Belege
- Luna 47 %einzelne zitierbare Belege
- JEV
- amos 30 %einzelne zitierbare Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 22 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV
- amos 41 %einzelne zitierbare Belege
- SubQ 30 %einzelne zitierbare Belege
- drex 40 %einzelne zitierbare Belege
- d3-ultra 45 %einzelne zitierbare Belege
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 23 %Hintergrund, keine Belege
- Luna 38 %einzelne zitierbare Belege
- JEV
- amos 41 %einzelne zitierbare Belege
- SubQ 31 %Hintergrund, keine Belege
- drex 48 %einzelne zitierbare Belege
- d3-ultra 30 %Hintergrund, keine Belege
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 27 %nur am Rande erwähnt
- Luna 52 %Hintergrund, keine Belege
- JEV
- amos 31 %einzelne zitierbare Belege
- SubQ 38 %nur am Rande erwähnt
- drex 29 %Hintergrund, keine Belege
- d3-ultra 42 %nur am Rande erwähnt
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 40 %Hintergrund, keine Belege
- Luna 44 %einzelne zitierbare Belege
- JEV
- amos 27 %Hintergrund, keine Belege
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 50 %gleiches Oberthema, hilft nicht
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 80 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 27 %Hintergrund, keine Belege
- Luna 49 %einzelne zitierbare Belege
- JEV
- amos 30 %einzelne zitierbare Belege
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 42 %einzelne zitierbare Belege
- d3-ultra 34 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 44 %gleiches Oberthema, hilft nicht
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra 81 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV
- amos 36 %nur am Rande erwähnt
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 37 %Hintergrund, keine Belege
- d3-ultra 80 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 29 %Hintergrund, keine Belege
- Luna 61 %einzelne zitierbare Belege
- JEV
- amos 33 %einzelne zitierbare Belege
- SubQ 34 %nur am Rande erwähnt
- drex 28 %einzelne zitierbare Belege
- d3-ultra 34 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV
- amos 28 %nur am Rande erwähnt
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 44 %Hintergrund, keine Belege
- d3-ultra 78 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 27 %nur am Rande erwähnt
- Luna 54 %einzelne zitierbare Belege
- JEV
- amos 27 %Hintergrund, keine Belege
- SubQ 32 %nur am Rande erwähnt
- drex 38 %einzelne zitierbare Belege
- d3-ultra 46 %nur am Rande erwähnt
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 28 %Hintergrund, keine Belege
- Luna 50 %Hintergrund, keine Belege
- JEV
- amos 30 %Hintergrund, keine Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 32 %Hintergrund, keine Belege
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV
- amos 36 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 27 %Hintergrund, keine Belege
- Luna 54 %einzelne zitierbare Belege
- JEV
- amos 38 %einzelne zitierbare Belege
- SubQ 30 %Hintergrund, keine Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra 34 %einzelne zitierbare Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 24 %Hintergrund, keine Belege
- Luna 46 %Hintergrund, keine Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 26 %Hintergrund, keine Belege
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 32 %Hintergrund, keine Belege
- Luna 55 %Hintergrund, keine Belege
- JEV
- amos 32 %nur am Rande erwähnt
- SubQ 33 %nur am Rande erwähnt
- drex 29 %Hintergrund, keine Belege
- d3-ultra 73 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 29 %Hintergrund, keine Belege
- Luna 52 %einzelne zitierbare Belege
- JEV
- amos 35 %nur am Rande erwähnt
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 33 %nur am Rande erwähnt
- d3-ultra 45 %nur am Rande erwähnt
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 29 %Hintergrund, keine Belege
- Luna 47 %einzelne zitierbare Belege
- JEV
- amos 31 %nur am Rande erwähnt
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 45 %nur am Rande erwähnt
- d3-ultra 74 %nur am Rande erwähnt
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 38 %gleiches Oberthema, hilft nicht
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 40 %gleiches Oberthema, hilft nicht
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 78 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV
- amos 37 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV
- amos 35 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 31 %nur am Rande erwähnt
- d3-ultra 66 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 54 %gleiches Oberthema, hilft nicht
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra 74 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 26 %Hintergrund, keine Belege
- Luna 73 %einzelne zitierbare Belege
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 32 %einzelne zitierbare Belege
- d3-ultra 63 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 24 %einzelne zitierbare Belege
- Luna 45 %einzelne zitierbare Belege
- JEV
- amos 38 %einzelne zitierbare Belege
- SubQ 30 %Hintergrund, keine Belege
- drex 41 %einzelne zitierbare Belege
- d3-ultra 43 %Hintergrund, keine Belege
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 25 %Hintergrund, keine Belege
- Luna 72 %einzelne zitierbare Belege
- JEV
- amos 39 %einzelne zitierbare Belege
- SubQ 33 %Hintergrund, keine Belege
- drex 37 %einzelne zitierbare Belege
- d3-ultra 40 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 26 %Hintergrund, keine Belege
- Luna 60 %einzelne zitierbare Belege
- JEV
- amos 40 %einzelne zitierbare Belege
- SubQ 43 %einzelne zitierbare Belege
- drex 39 %umfangreiche Belege
- d3-ultra 54 %einzelne zitierbare Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 29 %Hintergrund, keine Belege
- Luna 62 %einzelne zitierbare Belege
- JEV
- amos 26 %Hintergrund, keine Belege
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 29 %Hintergrund, keine Belege
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 44 %einzelne zitierbare Belege
- JEV
- amos 33 %nur am Rande erwähnt
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 36 %Hintergrund, keine Belege
- d3-ultra 64 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 47 %gleiches Oberthema, hilft nicht
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 66 %nur am Rande erwähnt
- JEV
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv