Using Claude to reduce the attack surface of code
Zusammenfassung
Kurz
Anthropic zufolge fand Claude bei der Analyse von 25 Open-Source-Projekten 493 Probleme mit unnötig erreichbarem Code oder unsicheren Konfigurationskombinationen. Eine OpenSSH-Fallstudie führte laut Bericht zu Änderungen, die den vor der Authentifizierung erreichbaren Code deutlich verringerten; die Methode erschwert den Zugriff auf mögliche Schwachstellen, beseitigt sie aber nicht.
Mittel
Anthropic berichtet über eine Untersuchung, in der Claude die Angriffsflächen von 25 Open-Source-Projekten mit mehr als fünf Millionen Codezeilen analysierte. Das Modell erstellte laut Bericht ein Verzeichnis von über 17.000 Konfigurationsoptionen und fand 493 Probleme. Untersucht wurden unnötig erreichbarer Code in Standardkonfigurationen, riskante Wechselwirkungen zwischen Einstellungen und sicherheitsrelevanter Code, der vor Authentifizierung oder anderen erforderlichen Schranken ausgeführt wird.
Alle elf untersuchten Projekte, die für authentifizierte Nutzer gedacht waren, enthielten laut Anthropic unbeabsichtigt erreichbaren Code. Insgesamt fand Claude 162 undokumentierte oder nicht gemeldete Einstellungskombinationen, von denen 94 eine Sicherheitskontrolle stillschweigend abschalteten. Als Fallstudie nennt der Bericht OpenSSH: Experimenteller ML-DSA-44-Code war in Version 10.4 für nicht authentifizierte Clients erreichbar. Nach mehreren Änderungen mit den Maintainers wurden Prüfungen in Version 10.6 vor das Parsen und Verifizieren verlegt. Anthropic zufolge sank dadurch der vor der Authentifizierung erreichbare Code einer Standardkonfiguration um etwa ein Fünftel.
Die Methode soll unbekannte Schwachstellen nicht entfernen, sondern ihren Zugriff erschweren. Die Ergebnisse betreffen die untersuchten Projekte; der Bericht misst nicht, wie viele Schwachstellen dadurch insgesamt verhindert werden.
Ausführlich lesen
Der Bericht von Anthropic beschreibt eine Untersuchung dazu, wie Claude unnötig erreichbaren Programmcode aufspüren und dessen Zugang einschränken kann. Die Grundidee: Unbekannte Schwachstellen lassen sich dadurch nicht beseitigen, doch Angreifer können schwerer auf den betreffenden Code zugreifen. Anthropic argumentiert, dass diese vorbeugende Verringerung der Angriffsfläche die Folgen unbekannter oder bereits ausgenutzter Schwachstellen mindern kann, ohne dass jede einzelne Schwachstelle zuvor gefunden werden muss.
Untersucht wurden 25 Open-Source-Projekte mit insgesamt mehr als fünf Millionen Codezeilen in mehreren Programmiersprachen. Claude erstellte nach Angaben des Berichts ein Verzeichnis von über 17.000 Konfigurationsoptionen, darunter 3.842 mit Sicherheitsbezug, und fand insgesamt 493 Probleme. Die Analyse betrachtete drei Arten unnötiger oder riskanter Erreichbarkeit: Code, der in der Standardkonfiguration ohne benötigte Funktion erreichbar ist; Kombinationen von Einstellungen, die Sicherheitskontrollen unerwartet schwächen oder widersprüchliches Verhalten erzeugen; und sicherheitsrelevanter Code, der vor Authentifizierung, Nutzerinteraktion oder einem erforderlichen Protokollschritt ausgeführt wird. Die Projekte wurden als öffentlich zugänglich, authentifizierungsgeschützt oder für private Umgebungen eingestuft.
Laut Anthropic wiesen alle elf als „Gated“ eingestuften Projekte unbeabsichtigt erreichbaren Code auf. In dieser Gruppe fand Claude unter anderem 93 unnötige Vor-Authentifizierungsflächen in der Standardkonfiguration, 37 Stellen mit Ausführung oder Zustandsaufzeichnung vor der Anmeldung sowie 61 Einstellungskombinationen, die Kontrollen stillschweigend abschwächten. Über alle Projektarten hinweg identifizierte das Modell 162 nicht dokumentierte oder nicht gewarnte Kombinationen sicherheitsrelevanter Einstellungen; in 94 Fällen wurde dadurch eine Sicherheitskontrolle deaktiviert. Der Bericht schildert außerdem ein in vier Projekten beobachtetes Muster, bei dem Zugriffssperren mit Hostnamenregeln und deaktivierten Reverse-DNS-Abfragen ins Leere liefen. Ein weiteres Beispiel betrifft widersprüchliche Einstellungen, durch die eine verlangte Zertifikatsprüfung vollständig entfiel.
Die Fallstudie zu OpenSSH beschreibt einen konkreten, mit den Entwicklern bearbeiteten Befund. In Version 10.4 konnte ein nicht authentifizierter Client laut Bericht rund 4.500 Zeilen experimentellen ML-DSA-44-Signaturcode erreichen, obwohl das Verfahren standardmäßig deaktiviert war. Anthropic berichtet, dass zunächst in Version 10.5 ergänzte Prüfungen noch Lücken hatten: Behaupteter und tatsächlich eingebetteter Schlüsseltyp konnten abweichen, und Zertifikate konnten eine CA-Signaturprüfung auslösen, bevor die Konfiguration geprüft wurde. Nach weiteren Änderungen mit den Maintainers prüfte OpenSSH die relevanten Schlüsseltypen und Algorithmen bereits vor dem Deserialisieren oder Verifizieren. Die Änderungen wurden laut Bericht in Version 10.6 veröffentlicht und verringerten den vor der Authentifizierung erreichbaren OpenSSH-Code in einer Standardkonfiguration um ungefähr ein Fünftel.
Anthropic beschreibt abschließend einen wiederverwendbaren Claude-Arbeitsablauf mit drei getrennten Analyseläufen. Befunde sollen anhand dynamischer Programmspuren bestätigt werden; bei Änderungen an der Standardkonfiguration sollen Projekt- und Regressionstests gleiches Verhalten wie zuvor nachweisen. Änderungen, die Nicht-Standardkonfigurationen beeinflussen könnten, werden laut Bericht menschlicher Entscheidung überlassen. Die Ergebnisse stammen aus einer Untersuchung von 25 Projekten und belegen nicht, wie häufig solche Befunde in allen Softwarebeständen vorkommen oder wie viele unbekannte Schwachstellen dadurch tatsächlich entschärft werden. Der Bericht bezeichnet die vorgestellten Techniken selbst als begrenzten Einblick und verweist auf weitere mögliche Analysen, etwa anhand von Laufzeitprotokollen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat die Sammelfragen mit Stufen und Anteilen eingeordnet, Teilfragen wurden nicht bewertet. Die Einordnung oben ist unabhängig von Lunas Stufen. Der Bericht ist eine Fallstudie zur Reduktion der Angriffsfläche von Open-Source-Software und beantwortet keine der drei Fragen direkt.
Im Bericht, aber nicht in der Zusammenfassung
- Die drei Methoden: Standardkonfiguration, Konfigurationswechselwirkung und frühe Erreichbarkeit
- Die Fail-open-Schwachstelle bei Hostnamen-Regeln, die in vier unabhängigen Projekten auftrat
- Das Zertifikatsprüfungs-Problem, das 21 Jahre lang im Code vorhanden war
- Die Einteilung der Projekte in Public, Gated und Private als Kontext der Ergebnisse
- Der dreistufige Claude-Skill, der in OSS-Scanner integriert werden soll
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- „nicht gemeldete“ bei den 162 Einstellungskombinationen; der Bericht nennt nur fehlende Dokumentation
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 22 %gleiches Oberthema, hilft nicht
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 22 %Hintergrund, keine Belege
- Luna 42 %Hintergrund, keine Belege
- JEV 46 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 28 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 28 %gleiches Oberthema, hilft nicht
- JEV 36 %einzelne zitierbare Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 36 %einzelne zitierbare Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %einzelne zitierbare Belege
- amos 24 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Alle Berichte im Archiv