Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisiohne Datum · Q002784

The Alignment Project by AISI — The AI Security Institute

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Das 2025 gestartete Alignment Project fördert laut Bericht interdisziplinäre Forschung zur Sicherheit und Kontrollierbarkeit fortgeschrittener KI. In der ersten Runde gingen über 27 Millionen Pfund an mehr als 60 Projekte; Bewerbungen sind aktuell geschlossen, und ein ähnliches Programm ist 2026 unwahrscheinlich, während weitere akademische Förderungen erwartet werden.

Mittel

Der Bericht beschreibt das 2025 gestartete Alignment Project als internationale Förderinitiative für Forschung, die leistungsfähige KI-Systeme sicher, verlässlich und für Menschen kontrollierbar machen soll. In der ersten Runde wurden laut Bericht mehr als 27 Millionen Pfund an über 60 Projekte vergeben; Einzelzuschüsse lagen zwischen 50.000 und einer Million Pfund. Die Koalition umfasst staatliche, industrielle und philanthropische Geldgeber sowie einen Expertenbeirat. Zusätzlich zu finanzieller Förderung nennt das Projekt Cloud-Rechenleistung und API-Guthaben, mögliche private Investitionen und fachliche Begleitung durch das Alignment-Team des britischen AI Security Institute. Die Förderung steht Forschenden unterschiedlicher Disziplinen offen. Der Text beschreibt Ziele, Geldgeber und Unterstützungsangebote, berichtet aber nicht über die Resultate der geförderten Projekte oder deren nachgewiesene Sicherheitswirkung. Bewerbungen sind derzeit geschlossen. Ein ähnliches Programm sei 2026 unwahrscheinlich; weitere akademische Förderprogramme seien jedoch geplant beziehungsweise erwartet.

Ausführlich lesen

Der Bericht stellt das 2025 gestartete Alignment Project vor, einen internationalen Förderfonds zur Unterstützung von Forschung an der Ausrichtung leistungsfähiger KI-Systeme. Als Begründung nennt er sowohl mögliche gesellschaftliche Vorteile transformativer KI – etwa medizinische Fortschritte und nachhaltige Energie – als auch Risiken, falls Systeme unbeabsichtigt oder schädlich handeln oder sich nicht zuverlässig verstehen und kontrollieren lassen. Das Projekt zielt laut Bericht darauf, KI sicherer, verlässlicher und gesellschaftlich nützlich zu machen.

In der ersten Förderrunde wurden nach Angaben des Berichts mehr als 27 Millionen Pfund an über 60 Projekte vergeben. Die einzelnen Förderungen lagen zwischen 50.000 und einer Million Pfund; für künftige Vorhaben könnten die beteiligten Geldgeber auch höhere Summen erwägen. Die Ausschreibung richtet sich an Forschende verschiedener Fachrichtungen, von Informatik bis Kognitionswissenschaft.

Das Projekt wird als Koalition aus staatlichen, industriellen und philanthropischen Geldgebern beschrieben. Genannt werden unter anderem das britische AI Security Institute, kanadische und australische Einrichtungen, CIFAR, OpenAI, Microsoft, AWS, Schmidt Sciences, Anthropic, UK Research and Innovation und ARIA sowie weitere Organisationen. Ein internationaler Expertenbeirat soll die Arbeit begleiten. Als Unterstützungsangebote führt der Bericht zweckgebundene Cloud-Rechenleistung und API-Guthaben, mögliche Investitionen privater Geldgeber in kommerzielle Lösungen sowie fachliche Begleitung durch das Alignment-Team des britischen Instituts auf. Diese Ressourcen sollen technische Experimente und interdisziplinäre Zusammenarbeit ermöglichen.

Der Bericht macht zugleich deutlich, dass das Projekt nicht nur technische Forschung umfasst: Sein erklärtes Ziel ist, Systeme zu entwickeln, die während ihres Einsatzes unter menschlicher Kontrolle bleiben. Die genannten Förder- und Unterstützungsangebote beschreiben die Ausgestaltung des Programms; der Text berichtet jedoch nicht über die Ergebnisse der geförderten Einzelprojekte oder darüber, wie wirksam die Maßnahmen die Sicherheit von KI tatsächlich verbessern.

Zum aktuellen Stand heißt es, dass Bewerbungen geschlossen sind. Ein ähnliches Programm werde 2026 voraussichtlich nicht stattfinden; das AISI rechne jedoch mit weiteren akademischen Förderprogrammen und verweist für Neuigkeiten auf seine Förderseite. Der Bericht enthält außerdem einen Abschnitt zur Arbeit und Personalgewinnung beim AISI: Das Institut gibt an, mehr als 100 technische Mitarbeitende beschäftigt zu haben und weiter zu wachsen. Diese Angaben stehen neben der Projektbeschreibung, sind aber keine Evaluation des Alignment Project.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist für beide Fassungen (kurz und mittel) inhaltlich treu, die Fassung mittel vollständig; das Schema erlaubt nur ein Urteil, deshalb wurde kurz als kleine Mängel bewertet. Der Bericht beschreibt ein Förderprogramm und enthält keine Resultate, deshalb beantwortet er die Sammelfragen kaum direkt.

Im Bericht, aber nicht in der Zusammenfassung

  • kurz: Die Koalition aus Staaten, Industrie und Philanthropie sowie der Expertenbeirat werden nicht genannt.
  • kurz: Die Förderspanne von 50.000 bis 1 Mio. Pfund und die Unterstützung (Rechenleistung, API-Guthaben, Expertenbegleitung) fehlen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 29 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %Hintergrund, keine Belege
    • Luna 42 %Hintergrund, keine Belege
    • JEV 47 %Hintergrund, keine Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 59 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 62 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 29 %Hintergrund, keine Belege
    • Luna 47 %einzelne zitierbare Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 26 %Hintergrund, keine Belege
    • Luna 67 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 39 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 26 %gleiches Oberthema, hilft nicht
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 36 %einzelne zitierbare Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →