Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-funde2. Oktober 2026 · Q000096

Developing Safety Standards Is Not Inherently Anticompetitive

itif.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Beitrag argumentiert, freiwillige KI-Sicherheitsstandards seien nicht schon deshalb wettbewerbswidrig, weil Wettbewerber sie gemeinsam entwickeln oder damit das Entwicklungstempo beeinflussen. Die Autoren sehen den entscheidenden Maßstab darin, ob die Zusammenarbeit den Wettbewerb tatsächlich beschränkt; die gegen vier KI-Unternehmen erhobenen Vorwürfe seien damit nicht bewiesen. Sie plädieren dafür, legitime Sicherheitskooperation zuzulassen, legen aber keine konkreten Standards fest.

Mittel

Jack Nicastro und Daniel Castro argumentieren, dass gemeinsame Sicherheitsstandards für führende KI-Unternehmen nicht allein deshalb wettbewerbswidrig sind, weil sie das Entwicklungstempo beeinflussen könnten. Anlass ist eine Sammelklage von vier KI-Abonnenten gegen Anthropic, OpenAI, SpaceXAI und Google. Die Kläger behaupten, die Firmen hätten sich darauf verständigt, die Produktentwicklung zu bremsen. Der Beitrag beschreibt dies als Vorwurf, nicht als gerichtlich festgestellte Tatsache.

Die Autoren sagen, Unternehmen könnten an Sicherheitsstandards mitarbeiten und zugleich bei Produktqualität und Leistungsfähigkeit konkurrieren. Sie verweisen auf US-Gesetze zu Normungsorganisationen und gemeinsamen Forschungsprojekten sowie auf ein Gerichtsurteil, dem zufolge Normensetzung für sich genommen keine illegale Verschwörung belegt. Solche Regeln böten jedoch keine pauschale Freistellung, etwa für Preisabsprachen oder Marktaufteilung.

Firmen könnten gemeinsame Standards ablehnen und weiter eigene Produkte entwickeln. Auch die Debatte über begrenzte Rechenressourcen werfe laut Autoren gesonderte Fragen auf, falls ein marktmächtiges Unternehmen tatsächlich einen kritischen Zugang blockiere. Der Beitrag hält schnelleres Wachstum nicht automatisch für verbraucherfreundlich: Sicherheitskoordination könne Risiken und mögliche Folgen schwerer Unfälle senken. Die Autoren vertreten eine Position, nicht die Entscheidung eines Gerichts, und nennen keine konkreten Standards. Sie fordern, die Klage-Theorie zurückzuweisen oder nötigenfalls gesetzlich klarzustellen, dass legitime Sicherheitskooperation zulässig ist.

Ausführlich lesen

Der Beitrag von Jack Nicastro und Daniel Castro behandelt die Frage, ob gemeinsame Sicherheitsstandards für führende KI-Modelle gegen das US-Kartellrecht verstoßen können. Die Autoren wenden sich gegen die Auffassung, schon die Zusammenarbeit von Wettbewerbern oder eine mögliche Verlangsamung der Produktentwicklung belege einen Wettbewerbsverstoß.

Ausgangspunkt ist eine Sammelklage von vier Abonnenten von Claude, ChatGPT, Grok und Gemini gegen Anthropic, OpenAI, SpaceXAI und Google. Die Kläger behaupten, die Unternehmen hätten vereinbart, die Entwicklung konkurrierender KI-Produkte zu bremsen und dadurch die Produktqualität gegenüber einem uneingeschränkten Wettbewerb zu mindern. Laut Beitrag richtet sich die Klage gegen die Unterstützung für Dario Amodeis Vorschlag, unabhängige Prüfer in KI-Labors einzusetzen und branchenweit Sicherheitsstandards für leistungsfähigere Modelle abzustimmen. Die Kläger beanstanden nicht die jeweiligen eigenständigen Entscheidungen der Firmen zu Sicherheit, Tests, Umweltfolgen oder Entwicklungstempo.

Die Autoren vertreten, dass Unternehmen freiwillige Standards gemeinsam entwickeln können und zugleich bei Qualität, Leistungsfähigkeit und Entwicklung ihrer Produkte konkurrieren. Entscheidend sei, ob eine Zusammenarbeit den Wettbewerb tatsächlich beschränke oder Unternehmen dabei helfe, sicher miteinander zu konkurrieren. Dafür führen sie bestehende rechtliche Rahmen an: Der Standards Development Organization Act von 2004 sieht für bestimmte Normungsorganisationen eine Einzelfallprüfung nach dem „rule of reason“ vor. Ein Berufungsgericht habe zudem 1988 entschieden, dass Normensetzung durch Branchenverbände für sich genommen keine rechtswidrige Verschwörung darstelle. Der National Cooperative Research and Production Act ermögliche ebenfalls bestimmte gemeinsame Forschungs- und Entwicklungsprojekte, ohne sie automatisch als illegal einzustufen. Die Autoren betonen zugleich, dass dieses Gesetz keine allgemeine Kartellfreistellung sei und etwa Preisabsprachen oder Marktaufteilungen nicht schütze.

Als Argument für fortbestehenden Wettbewerb verweisen sie darauf, dass Firmen nicht an gemeinsamen Standards teilnehmen müssen. Meta-Chef Mark Zuckerberg habe den Vorschlag öffentlich abgelehnt, während Meta eigene KI-Produkte entwickle. Auch Amodeis Forderung, zentrale Ressourcen wie Rechenleistung zu begrenzen, bedeute nach Darstellung der Autoren nicht, dass Anthropic diese Ressourcen kontrollieren könne. Sie argumentieren, angesichts Nvidias Stellung als Anbieter der nötigen Hardware könne kein einzelnes KI-Labor den Zugang US-amerikanischer Entwickler zu Rechenleistung einseitig beschränken. Ein tatsächliches Zurückhalten eines kritischen Inputs durch ein Unternehmen mit Marktmacht könne allerdings andere kartellrechtliche Fragen aufwerfen.

Die Autoren bestreiten außerdem, dass schnelleres Modellwachstum automatisch bessere Ergebnisse für Verbraucher bedeute. Gemeinsame Sicherheitsvorkehrungen könnten ihrer Ansicht nach Risiken verringern, die sonst schwere Schäden, weitergehende Regulierung oder einen Entwicklungsstopp nach sich ziehen könnten. Sie vergleichen Sicherheitsmaßnahmen mit Bremsen, die schnelles Fahren erst ermöglichen.

Der Beitrag ist eine argumentierende Position zugunsten freiwilliger Sicherheitskooperation, keine neutrale Entscheidung über die Klage. Er legt nicht fest, welche konkreten Standards oder Schwellenwerte gelten sollten, und berichtet kein Gerichtsurteil zum vorliegenden Fall. Die Autoren fordern die Gerichte auf, die Theorie zurückzuweisen, bereits die Entwicklung freiwilliger Sicherheitsstandards sei rechtswidrig. Sollten Gerichte dennoch zu dem Schluss kommen, geltendes Recht verhindere legitime Kooperation, solle der Kongress dies klarstellen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung beruht auf dem Volltext des Berichts. Die mittlere Zusammenfassung ist insgesamt sachlich, lässt aber die Grundlage der Klage aus, nämlich Amodeis Essay mit seinen Forderungen. Die Einordnung der Teilfragen ist nach den Belegen im Bericht abgestuft, nicht nach Lunas Stufen.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Klage stützt sich auf Dario Amodeis Essay „We Must Pace the Frontier“ vom 12. September; das fehlt in der mittleren Fassung ganz.
  • Amodeis konkreter Vorschlag: unabhängige Prüfer, Zertifizierung, „industry-wide coordination“ und eine Ausnahmeregelung vom Kartellrecht, die der Bericht als Forderung des Essays nennt.
  • Die Ablehnung des Vorschlags durch Meta-CEO Zuckerberg und Nvidia-CEO Huang sowie die Feststellung, dass Nvidia eine dominante Stellung hat und kein Labor allein den Zugang zu Rechenleistung sperren könnte.
  • Das Schumpeter-Zitat zu den Bremsen von Autos als Beleg dafür, dass Sicherheit den Wettbewerb nicht zwingend schwächt.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Kurzfassung: Die Aussage, die Vorwürfe gegen die vier KI-Unternehmen seien „nicht bewiesen“, geht über den Bericht hinaus. Der Bericht bewertet die Klagetheorie rechtlich, trifft aber kein Beweisurteil.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 44 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 29 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-F4-T01 Einigen sich Staaten auf eine Definition von „Frontier-Modell“ (Modell an der vordersten Grenze der Entwicklung), nach Rechenaufwand, Fähigkeit oder Einsatz, und veröffentlicht jeder, welche Modelle seiner eigenen Firmen darunter fallen, damit alle über dieselben Modelle sprechen und keine Firma sich das passende Kriterium aussucht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-F4-T05 Wie sollen eingebettete Prüfer (unabhängige Prüfer mit dauerhaftem, mitarbeiterähnlichem Zugang in KI-Firmen) auch bei kleineren KI-Firmen zum Einsatz kommen, die gefährliche Fähigkeiten entwickeln können, ohne nach Rechenaufwand oder Umsatz zur Spitze zu zählen? Luna: Stufe 3 · 57 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 31 %Hintergrund, keine Belege
    • Luna 34 %Hintergrund, keine Belege
    • JEV 38 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 4 · 56 % · einzelne zitierbare Belege
    • SF-P1-T05 Welchen Ausrichtungstest (eine Prüfung, ob ein Modell den vorgesehenen Zielen und Werten folgt) würde ein Labor als bestanden anerkennen, wenn ein Konkurrent ihn durchführt, an dessen Modell und am eigenen? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-P1-T06 Kann ein Staat gemeinsame Prüfverfahren überhaupt anwenden, wenn ein anderer die nötige Hardware durch Exportkontrollen beschränkt, und hat ein Beteiligter gesagt, ob die Prüfung von genau den Chipkontrollen abhängen darf, die der betroffene Staat „Monopol und Technologiebeschränkung“ nennt? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P1-T07 Wie könnten Labore verschiedener Staaten gegenseitige Prüfvereinbarungen treffen, um zu überwachen, ob vereinbarte Sicherheitspraktiken eingehalten werden? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 39 %nur am Rande erwähnt
    • Luna 38 %Hintergrund, keine Belege
    • JEV 69 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 36 %nur am Rande erwähnt
    • drex 43 %nur am Rande erwähnt
    • d3-ultra 78 %nur am Rande erwähnt

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-P2-T02 Bevor eine Prüfvereinbarung zwischen Staaten auf eingebetteten Prüfungen aufbaut, also auf unabhängigen Prüfern mit dauerhaftem, mitarbeiterähnlichem Zugang in KI-Firmen: Sagen die Labore jeweils zu, dass keine eingebettete Prüfung, die das geprüfte Labor selbst bezahlt, in diesem Zusammenhang als Beleg dient? Und behandeln die Regierungen eine vom Labor bezahlte Prüfung für sich genommen als unzureichend für Tests von Modellen auf akute Risiken vor der Veröffentlichung, damit die ersten Berichte nicht stillschweigend einen Präzedenzfall setzen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-P2-T06 Wenn ein Laborchef eine Vereinbarung zwischen Laboren andeutet: Welche Labore gehören dazu, und gehören unabhängige Prüfer mit mitarbeiterähnlichem Zugang dazu? Gefragt wurde das zu Sam Altman (OpenAI), der im Fortune-Interview vom 12. September 2026 ein Treffen mit Dario Amodei (Anthropic), Elon Musk (xAI) und Demis Hassabis (Google DeepMind) für wahrscheinlich hielt. Luna: Stufe 4 · 38 % · einzelne zitierbare Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %nur am Rande erwähnt
    • Luna 47 %Hintergrund, keine Belege
    • JEV 48 %nur am Rande erwähnt
    • amos 34 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 42 %Hintergrund, keine Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P3-T11 Welche Arten von Prüfungen (etwa Ausbruch aus der abgeschirmten Testumgebung, selbstständige Vervielfältigung eines Modells oder die Synthese biologischer Stoffe) sind zu gefährlich, als dass ein einzelnes Labor sie ohne vereinbarten Standard zur Abschirmung und ohne gemeinsamen Nachweis darüber, dass sie stattfanden, durchführen sollte, und wer führt diese Liste? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  4. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 43 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

    • SF-P4-T01 Würden Regierungen Messdaten aus der Lieferkette von Chips (Telemetrie), den Stromverbrauch, gemeldete Verzeichnisse von Trainingsläufen und eine unabhängig überwachte Abrechnung von Strom, Hardware und Rechenaufwand als vertragstauglichen Nachweis für die Größe der Trainingsläufe eines anderen Staates anerkennen, ohne Modellgewichte (die gelernten Parameter) oder Code anzurühren? Und wie sähe eine Prüfordnung für Rechenschwellen aus, die nichts über das Innere der Modelle verrät? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 34 %einzelne zitierbare Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 35 %Hintergrund, keine Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-T1-T01 Welche messbaren, maschinell prüfbaren Fähigkeitsschwellen sollen Labore veröffentlichen, die vor dem Einsatz von Agentensystemen eine verpflichtende Pause und eine Prüfung von außen auslösen, abgestimmt über alle Labore hinweg? Wer führt das Register, und wo soll die Gesellschaft die verbindliche Sicherheitsgrenze für weitere Steigerungen der Fähigkeiten ziehen? Luna: Stufe 6 · 31 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 6 · 25 % · beantwortet teilweise oder widerspricht
    • SF-T1-T03 Welchen Prüfpunkt für Fähigkeiten und welche Bescheinigung würde ein Labor heute schriftlich zusagen, bevor eine Aufsichtsbehörde ihm einen solchen Prüfpunkt vorschreibt? Luna: Stufe 6 · 33 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 37 %nur am Rande erwähnt
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 34 %nur am Rande erwähnt
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-T2-T01 Welche öffentliche, nachprüfbare Handlung würde als Verzicht auf weitere Skalierung zählen, nicht nur eine Ankündigung? Was müsste ein Labor veröffentlichen, damit eine rivalisierende Regierung bestätigen kann, dass wirklich pausiert wurde, und welche nachträglichen Belege würden zeigen, dass keine Fähigkeitszuwächse zurückgehalten wurden, etwa durch nicht offengelegte Änderungen an Rechenleistung beim Einsatz oder Werkzeugzugang oder durch einen nicht offengelegten Austausch von Modellen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-T2-T03 Wenn eine Vereinbarung Fähigkeitsschwellen, rote Linien oder Prüfungen vor der Freigabe festlegt: Binden diese Grenzen auch Modelle, die am Tag der Unterzeichnung schon im Einsatz oder schon frei im Umlauf sind, oder nur künftige Modelle und Freigaben? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-T2-T04 Würde ein Labor eine Verlangsamung akzeptieren, deren Einhaltung es bei der Konkurrenz nicht prüfen kann? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-T2-T05 Wenn ein Staat oder Labor einen entscheidenden Vorsprung bei KI-Fähigkeiten erlangt: Welcher Mechanismus hindert diesen Akteur daran, Sicherheitsabkommen als bremsende strategische Last zu behandeln statt als gegenseitigen Nutzen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 39 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-T3-T02 Werden Labore, die ein Maß für die Überwachbarkeit ihrer Modelle und ein Maß für selbstständige KI-Forschung veröffentlichen, diese beiden Maße gemeinsam nach demselben Zeitplan veröffentlichen? Und wird eine Normungsstelle nicht jedes Maß für sich, sondern ihre sich kreuzenden Verläufe (sinkende Überwachbarkeit bei steigender selbstständiger Forschung) zum Auslöser einer Überprüfung machen, als Frühwarnung für den Verlust menschlicher Aufsicht, noch bevor sich der Beginn der Selbstverbesserung benennen lässt? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-T3-T06 Wenn ein unabhängiger Prüfer, der mit Zugang wie ein Mitarbeiter in einem Labor arbeitet, meldet, dass die für die Selbstverbesserung relevante Automatisierung schon schneller voranschreitet, als der diplomatische Zeitplan für gemeinsame Prüfungen, Tempogrenzen der Selbstverbesserung und eine umfassende Verlangsamung annimmt: Kehrt sich die Reihenfolge der Verhandlungen um, weil die Prüfung zeigt, dass die Vereinbarung schon zu spät kommt? Und muss der Prüfer das den Regierungen melden, oder ist es ihm freigestellt? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 42 %einzelne zitierbare Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 40 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 36 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E1-T07 Wenn Staaten Standards für Spitzen-KI bilateral festlegen: Welcher Mechanismus stellt sicher, dass Labore aus Drittstaaten sowie die Fachgruppen der UN für Informations- und Kommunikationstechnik und regionale Normungsgremien diese Standards übernehmen, ändern oder ablehnen können, statt an ein Abkommen gebunden zu sein, an dem sie nicht beteiligt waren? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 22 %Hintergrund, keine Belege
    • Luna 37 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 35 %Hintergrund, keine Belege
    • d3-ultra 28 %gleiches Oberthema, hilft nicht

    • SF-E2-T02 Ein Labor will internationale Standards für Spitzenmodelle über ein Netz benannter KI-Sicherheitsinstitute entwickeln; ein Staat fordert einen globalen Rahmen mit breitem Konsens. Welche Rolle hätte jede Seite beim Festlegen der Tagesordnung und beim Billigen der Standards, bevor sie als gemeinsam gelten? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
    • SF-E2-T05 Welchen eigenen Rahmen für die Regelung von KI schlägt ein Staat über die Risiken und Maßnahmen hinaus vor, die er schon benannt hat, und worin unterscheidet er sich von den Vorschlägen der Labore? Gefragt wurde das zu China: zum Artikel von Minister Chen Yixin, im Vergleich mit OpenAIs Vorschlag für Standards und den vier Stufen möglicher Vereinbarungen im Essay „We Must Pace the Frontier“ von Anthropic-Chef Dario Amodei. Luna: Stufe 4 · 32 % · einzelne zitierbare Belege
    • SF-E2-T06 Hat eine Regierung direkt auf den Vorschlag eines Labors geantwortet? Gefragt wurde das zu China und dem Essay „We Must Pace the Frontier“ von Anthropic-Chef Dario Amodei; der Artikel von Minister Chen Yixin erschien einen Tag danach, eine direkte Antwort ist nicht belegt. Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E2-T07 Würden Regierungen ein gemeinsam finanziertes, offenes internationales Forschungsprogramm zu Problemen der Ausrichtung von KI an vorgesehenen Zielen und Werten (Täuschungserkennung, Wertelernen, skalierbare Aufsicht) unterstützen, mit gemeinsamen Vergleichstests und Veröffentlichung, nach dem Vorbild der Europäischen Organisation für Kernforschung (CERN) oder der Internationalen Atomenergie-Organisation (IAEO)? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 40 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E3-T02 Welche Stelle eines Staates wäre das Gegenüber für Prüfungen vor der Veröffentlichung, also Tests auf akute Risiken? Gefragt wurde das zu China (Cyberspace-Verwaltung, Ministerium für Staatssicherheit oder eine neue Stelle) und zu den Prüfungen, die Anthropic-Chef Dario Amodei im Essay „We Must Pace the Frontier“ vorschlägt. Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 21 %nur am Rande erwähnt
    • Luna 66 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 45 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 51 %einzelne zitierbare Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 25 %beantwortet teilweise oder widerspricht
    • Luna 49 %beantwortet teilweise oder widerspricht
    • JEV 66 %beantwortet teilweise oder widerspricht
    • amos 32 %umfangreiche Belege
    • SubQ 40 %beantwortet direkt und ausführlich
    • drex 50 %umfangreiche Belege
    • d3-ultra 48 %umfangreiche Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-W2-T01 Welche Maßnahmen zur Sicherheitskoordination zwischen Laboren brauchen eine Änderung oder Klarstellung in ihrer wettbewerbsrechtlichen Behandlung, und wie bleibt eine Erlaubnis auf genau diese Maßnahmen begrenzt, so dass Preisabsprachen, die Aufteilung von Kunden und der Ausschluss neuer Anbieter ausgeschlossen bleiben? Luna: Stufe 6 · 47 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-W2-T02 Wenn in einem Labor dasselbe Gremium leitender Führungskräfte sowohl die Fähigkeiten von Modellen als auch strittige Fragen zur Offenlegung von Fehlern beurteilt: Ab wann wird das Bündeln solcher Urteile mehrerer Firmen über gemeinsame Arten von Vorfällen zu einem Informationsaustausch nahe an einer Absprache, der eine kartellrechtliche Ausnahme bräuchte, und wer außerhalb der Firmen sieht diese Grenze näherkommen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →