Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind6. Oktober 2025 · Q001480

Introducing CodeMender: an AI agent for code security

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

CodeMender soll mit KI und Programmanalyse Sicherheitslücken in Software finden und beheben sowie bestehenden Code vorsorglich absichern. DeepMind berichtet von 72 übermittelten Korrekturen in sechs Monaten, betont aber, dass die Ergebnisse vorläufig sind und alle Patches derzeit von Menschen geprüft werden.

Mittel

Der Bericht beschreibt CodeMender als KI-Agenten von Google DeepMind, der Sicherheitslücken in Software beheben und vorhandenen Code vorsorglich sicherer machen soll. Der Agent nutzt Gemini-Deep-Think-Modelle sowie Werkzeuge wie statische und dynamische Analyse, Fuzzing und differenzielle Tests, um Ursachen zu finden, Patches zu erstellen und deren Auswirkungen zu prüfen. Als Beispiele nennt der Text einen zunächst falsch eingeordneten Heap-Pufferüberlauf, dessen Ursache fehlerhafte XML-Stapelverwaltung war, sowie die Behebung eines komplexen Objektlebensdauerfehlers. Außerdem wurden in Teilen der Bibliothek libwebp -fbounds-safety-Annotationen ergänzt, die bestimmte Pufferüberläufe durch Compilerprüfungen verhindern sollen.

Laut Bericht hat CodeMender in sechs Monaten 72 Sicherheitskorrekturen an Open-Source-Projekte übermittelt; einige betroffene Projekte umfassen bis zu 4,5 Millionen Codezeilen. Mehrere Patches seien bereits übernommen worden. Die Ergebnisse werden als frühe Forschung beschrieben. Alle Patches werden derzeit von menschlichen Forschenden geprüft, und die Zusammenarbeit mit Projektverantwortlichen soll schrittweise wachsen. Eine Veröffentlichung als allgemein nutzbares Werkzeug ist ein angestrebtes späteres Ziel.

Ausführlich lesen

Der Bericht stellt CodeMender vor, einen KI-Agenten von Google DeepMind, der die Sicherheit von Softwarecode verbessern soll. Die Autorinnen und Autoren argumentieren, dass Sicherheitslücken für Entwicklerinnen und Entwickler oft schwer und zeitaufwendig zu finden und zu beheben seien. Da KI-Systeme zunehmend neue Schwachstellen aufspürten, könne es für Menschen allein schwieriger werden, mit der Entdeckung und Behebung Schritt zu halten. CodeMender soll deshalb sowohl neu gefundene Fehler reparieren als auch vorhandenen Code vorsorglich sicherer machen.

Nach Angaben des Berichts nutzt der Agent aktuelle Gemini-Deep-Think-Modelle und Werkzeuge, um Fehlerursachen zu untersuchen, Änderungen vorzunehmen und diese auf Korrektheit zu prüfen. Dabei kommen unter anderem statische und dynamische Analyse, differenzielle Tests, Fuzzing und SMT-Solver zum Einsatz. Spezialisierte Agenten unterstützen einzelne Aufgaben; ein sprachmodellgestütztes Kritikwerkzeug vergleicht beispielsweise alten und geänderten Code, um mögliche Regressionen zu erkennen und Korrekturen anzustoßen. Der Bericht beschreibt als Ziel, Menschen nur solche Änderungen zur Prüfung vorzulegen, die die Ursache beheben, funktional korrekt sind, keine Rückschritte verursachen und Stilvorgaben einhalten.

Als Beispiele nennt der Text Fehler, deren eigentliche Ursache sich nicht unmittelbar aus dem Absturzbericht ergab: Ein gemeldeter Heap-Pufferüberlauf sei auf eine fehlerhafte Verwaltung des XML-Elementstapels beim Parsen zurückgegangen. In einem weiteren Fall habe CodeMender einen komplexen Objektlebensdauerfehler behoben und dafür auch ein projektspezifisches System zur C-Code-Erzeugung geändert.

Neben solchen Reparaturen soll CodeMender bestehenden Code vorsorglich auf sicherere Datenstrukturen und APIs umstellen. Der Bericht schildert den Einsatz von -fbounds-safety-Annotationen in Teilen der verbreiteten Bildkompressionsbibliothek libwebp. Diese Annotationen veranlassen den Compiler, Grenzen zu prüfen und so bestimmte Pufferüberläufe oder -unterläufe abzuwehren. Laut den Autorinnen und Autoren wäre die frühere libwebp-Schwachstelle CVE-2023-4863 mit solchen Annotationen ebenso wie viele andere erfasste Pufferüberläufe dauerhaft nicht ausnutzbar gewesen. Der Agent könne außerdem eigene Kompilierungsfehler und fehlgeschlagene Tests korrigieren und Änderungen mit einem auf funktionale Gleichwertigkeit ausgelegten Sprachmodellprüfer bewerten.

Als bisheriges Ergebnis nennt der Bericht 72 an Open-Source-Projekte übermittelte Sicherheitskorrekturen aus sechs Monaten Entwicklungsarbeit; einige Projekte hätten bis zu 4,5 Millionen Codezeilen. Mehrere Änderungen seien bereits angenommen und in die Projekte übernommen worden. Die Autorinnen und Autoren betonen jedoch, dass es sich um frühe Forschungsergebnisse handle und sie vorsichtig vorgehen wollten: Derzeit würden Forschende alle erzeugten Patches vor der Einreichung von Menschen prüfen. Die Zusammenarbeit mit Maintainerinnen und Maintainer werde schrittweise ausgeweitet. Eine allgemein verfügbare Version ist im Bericht daher noch ein Zukunftsziel; weitere technische Berichte und Forschungsergebnisse werden angekündigt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Beide Fassungen von Luna (kurz und mittel) wurden geprüft; beide geben den Bericht sinngemäß korrekt wieder, weshalb das Urteil für die gemeinsame Bewertung ok lautet. Der Bericht betrifft Codesicherheit mit einem KI-Agenten, nicht allgemeine KI-Governance, daher fallen die Einordnungen der Sammel- und Teilfragen meist niedrig aus.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 29 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 58 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 56 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 61 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 55 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 19 %gleiches Oberthema, hilft nicht
    • Luna 66 %einzelne zitierbare Belege
    • JEV 56 %beantwortet teilweise oder widerspricht
    • amos 33 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 35 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 32 %gleiches Oberthema, hilft nicht
    • JEV 55 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →