Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind10. November 2026 · Q000703

Introducing AlphaProof Code: a breakthrough in verifying complex software at depth

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Google DeepMind berichtet, AlphaProof Code habe gemeinsam mit menschlichen Fachleuten zentrale Eigenschaften des kompilierten Signal-Protokollcodes formal geprüft; der Ablauf habe vier Wochen gedauert und zwei absichtlich wieder eingefügte Fehler erkannt. Das sind Angaben des Unternehmens, und obwohl der Artikeltext weitgehend vorliegt, endet der Bericht mit einem abgebrochenen Bildhinweis.

Mittel

Der Bericht beschreibt AlphaProof Code, ein Verfahren von Google DeepMind, bei dem menschliche Fachleute und KI-Agenten gemeinsam Software formal verifizieren. Im Projekt formulierten und prüften Menschen zunächst mathematische Sicherheitsvorgaben für das Signal-Protokoll. Danach erzeugten Agenten laut Bericht mehr als sechs Millionen Zeilen Lean-Code für Beweise, die Lean maschinell prüfte. Die Agenten verwiesen ungefähr ein Prozent der Codebasis zur zusätzlichen menschlichen Prüfung.

Anders als Prüfungen, die nur den Protokollentwurf betrachten, sollte diese Arbeit zeigen, dass der kompilierte Code die festgelegten Eigenschaften erfüllt. DeepMind nennt unter anderem den Schutz von Nachrichten bei einer vorübergehenden Gerätekompromittierung. Das Unternehmen berichtet von vier Wochen Arbeitszeit und davon, dass das System zwei absichtlich wieder eingefügte, zuvor behobene Fehler als unsicher erkannte. Es beansprucht damit einen neuartigen Nachweis für eine weit verbreitete Protokollimplementierung und sieht Anwendungsmöglichkeiten etwa bei medizinischen Geräten und Stromnetzen. Weitere Forschung sei nötig. Der Bericht enthält keine unabhängigen Prüfbelege; sein Artikeltext ist weitgehend vorhanden, endet aber mit einem abgebrochenen Bildhinweis.

Ausführlich lesen

Der Bericht stellt AlphaProof Code vor, ein von Google DeepMind entwickeltes Verfahren, bei dem Menschen und KI-Agenten zusammenarbeiten, um Software formal zu verifizieren. Im beschriebenen Projekt prüften die Forschenden zentrale Sicherheitsmerkmale des tatsächlich kompilierten Codes für das Signal-Protokoll. DeepMind bezeichnet dies als erste formale Verifikation einer weit verbreiteten kryptografischen Protokollimplementierung in dieser Tiefe und als ersten solchen Nachweis mit irgendeiner Methode.

Das Vorgehen gliederte sich in drei Schritte: Fachleute entwickelten gemeinsam mit Modellen mathematische Spezifikationen der Sicherheitsziele und prüften diese; anschließend erzeugten Agenten mit Gemini Carbon nach Angaben des Berichts mehr als sechs Millionen Zeilen Lean-Code für die Beweise. Lean prüfte die Beweise maschinell. Die Agenten markierten laut DeepMind außerdem jene Bereiche, die menschliche Fachleute nochmals prüfen sollten: etwa ein Prozent der Codebasis. Damit konzentrierte sich die menschliche Prüfung auf Stellen, bei denen menschliches Urteil besonders wichtig sei.

Der Bericht hebt hervor, dass die Verifikation bis zum kompilierten Code auf Geräten reichte, statt sich auf den Protokollentwurf zu beschränken. Als Beispiele für geprüfte Eigenschaften nennt er den Schutz von Nachrichten vor und nach einer vorübergehenden Übernahme eines Geräts. DeepMind berichtet, der gesamte Prozess habe vier Wochen gedauert, während vergleichbare Arbeit für Expertenteams historisch Jahre beansprucht habe. Um die Fähigkeit des Systems zu prüfen, fehlerhaften Code zu erkennen, fügten die Forschenden zwei zuvor behobene Fehler in eine isolierte Signal-Version ein. In beiden Fällen habe das System einen maschinengeprüften Beweis erstellt, dass die fehlerhafte Version unsicher war.

Als Bedeutung des Projekts führt DeepMind an, dass die Lücke zwischen kryptografischem Entwurf und tatsächlicher Implementierung eine häufige Quelle realer Schwachstellen sei und die Prüfung auf Implementierungsebene deshalb besonders anspruchsvoll sei. Ein im Bericht zitiertes Signal-CTO-Statement sagt, die Verifikation gebe zusätzliches Vertrauen in die Datenschutzgarantien. Die Autoren sehen mögliche Anwendungen auch für andere wichtige Systeme, etwa medizinische Geräte und Stromnetze, betonen aber, dass weitere Forschung nötig sei, um die Methoden zu skalieren. DeepMind kündigt an, die Verifikationsartefakte öffentlich bereitzustellen.

Die Aussagen zu Neuheit, Dauer, Umfang und Sicherheitswirkung sind Behauptungen des Unternehmens im bereitgestellten Bericht; unabhängige Prüfungsergebnisse enthält dieser Text nicht. Der Artikeltext ist weitgehend enthalten, doch der bereitgestellte Bericht endet mit einem abgebrochenen Bildhinweis.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung stützt sich allein auf den im Bericht enthaltenen Text. Der Bericht ist ein Unternehmensbeitrag von Google DeepMind mit Eigenangaben, und einige Aussagen, etwa zu Dauer und Fehlererkennung, lassen sich nicht unabhängig prüfen.

Im Bericht, aber nicht in der Zusammenfassung

  • Open-Sourcing der Verifikationsartefakte für die Öffentlichkeit
  • Einsatz von Gemini Carbon für die Beweisführung
  • Zitat des Signal-CTO, der die Arbeit kommentiert
  • Behauptung, es sei die erste KI-gestützte formale Verifikation eines weit verbreiteten Protokolls

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, der Bericht enthalte keine unabhängigen Prüfbelege, steht so nicht im Text; der Bericht nennt nur Eigenangaben und ein technisches Papier.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 64 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 31 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %gleiches Oberthema, hilft nicht
    • amos 23 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 49 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 33 %einzelne zitierbare Belege
    • d3-ultra 40 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 57 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 52 %einzelne zitierbare Belege
    • amos 23 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 44 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 46 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 29 %nur am Rande erwähnt
    • d3-ultra 40 %nur am Rande erwähnt
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 58 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →