Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi11. Dezember 2025 · Q002138

Deepening our partnership with Google DeepMind

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Das britische AI Security Institute und Google DeepMind kündigen eine vertiefte Forschungspartnerschaft an, die auf gemeinsamer Arbeit der vergangenen zwei Jahre aufbauen soll. Untersucht werden sollen unter anderem KI-Ausrichtung, menschliches Wohlbefinden und wirtschaftliche Auswirkungen; konkrete Methoden oder Ergebnisse nennt der kurze Bericht nicht.

Mittel

Der Bericht kündigt eine neue Forschungspartnerschaft zwischen dem britischen AI Security Institute und Google DeepMind an. Sie baue auf zwei Jahren Zusammenarbeit und gemeinsamen Tests fortgeschrittener KI-Modelle auf und sei Teil einer breiteren Partnerschaft zwischen Google DeepMind und dem britischen Ministerium DSIT.

Ein Forschungsmemorandum soll den Austausch von Daten und Ideen, gemeinsame Veröffentlichungen und direkte Zusammenarbeit der Teams ermöglichen. Als erste Themen nennt der Bericht die Überwachung von KI-Gedankengängen zur Untersuchung ihrer Ausrichtung, die sozio-affektive Ausrichtung mit Blick auf menschliches Wohlbefinden sowie den Einfluss von KI auf wirtschaftliche Aktivitäten und Arbeitsmärkte.

Die Partner wollen ihre Ergebnisse mit der Öffentlichkeit teilen. Der Text beschreibt allerdings keine konkreten Methoden, Zeitpläne oder bereits vorliegenden Resultate. Die genannten Wirkungen sind somit Ziele der Forschung, keine bestätigten Befunde.

Ausführlich lesen

Der Bericht kündigt eine neue Forschungspartnerschaft zwischen dem britischen AI Security Institute und Google DeepMind an. Sie sei der nächste Schritt in einer Zusammenarbeit, die bereits seit zwei Jahren bestehe, und knüpfe an gemeinsame Tests fortgeschrittener KI-Modelle an. Zugleich ordne sie sich in eine umfassendere neue Partnerschaft zwischen dem britischen Ministerium DSIT und Google DeepMind ein.

Ein heute bekannt gegebenes Forschungsmemorandum soll die Zusammenarbeit vertiefen. Vorgesehen seien ein gegenseitiger Austausch von Daten und Ideen, gemeinsame Veröffentlichungen sowie gezielte Arbeit der Teams, um die Forschung zu KI-Sicherheit und Schutz vor Risiken voranzubringen.

Als erste gemeinsame Themen nennt der Bericht drei Bereiche: Erstens soll untersucht werden, ob sich Gedankengänge von KI-Systemen überwachen lassen, um ihre Ausrichtung an menschlichen Zielen zu beurteilen. Dies baue auf einer früheren Zusammenarbeit auf. Zweitens wollen die Partner die sogenannte sozio-affektive Ausrichtung untersuchen, also besser verstehen, wie KI-Systeme mit dem menschlichen Wohlbefinden zusammenhängen. Drittens soll erforscht werden, wie KI wirtschaftliche Aktivitäten beeinflusst, um ein langfristiges Verständnis der Arbeitsmärkte zu unterstützen.

Die Verfasser kündigen an, die Ergebnisse der erweiterten Forschung mit einer breiteren Öffentlichkeit zu teilen. Der kurze Bericht beschreibt jedoch weder konkrete Methoden und Zeitpläne noch bereits erzielte Forschungsergebnisse. Aussagen über erwartete Wirkungen sind daher als Vorhaben und Ziele der Partnerschaft zu verstehen, nicht als belegte Resultate.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Der Bericht ist eine kurze Ankündigung ohne Methoden, Zeitplan oder Ergebnisse. Lunas Zusammenfassungen geben ihn im Kern treu wieder und trennen Ziele klar von Befunden. Die Einordnung bleibt bei den Sammelfragen eher schwach, weil der Bericht vor allem Forschungsthemen benennt und keine Belege liefert.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Überwachung von Gedankengängen knüpft an eine frühere gemeinsame Arbeit an

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 29 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 43 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 23 %Hintergrund, keine Belege
    • Luna 49 %gleiches Oberthema, hilft nicht
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 43 %einzelne zitierbare Belege
    • JEV 26 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV 34 %nur am Rande erwähnt
    • amos 28 %Hintergrund, keine Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 29 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 24 % · Hintergrund, keine Belege
    • SF-V1-T05 Mit welchen empirischen Tests prüft man, ob Training mit synthetischen Daten und gegnerischen Denkspuren, auch von geopolitischen Rivalen, die Überwachbarkeit verschlechtert, und verpflichten sich Labore, alle synthetischen Trainingsdaten kryptografisch zu signieren? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 26 %Hintergrund, keine Belege
    • Luna 67 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 44 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 72 %einzelne zitierbare Belege
    • JEV 68 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 50 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %Hintergrund, keine Belege
    • Luna 69 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 40 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 29 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →