Supercomputer networking to accelerate large scale AI training
Zusammenfassung
Kurz
OpenAI beschreibt MRC als Protokoll, das Datenpakete über viele parallele Netzwerkpfade verteilt und Ausfälle mit SRv6-Quellrouting umgeht, um große KI-Trainingsläufe stabiler zu halten. Nach Angaben des Unternehmens bewährt es sich bereits in großen Clustern; der Bericht stützt die Leistungsangaben auf eigene Betriebserfahrungen und nennt keine unabhängigen Benchmarks.
Mittel
OpenAI stellt MRC als gemeinsam mit AMD, Broadcom, Intel, Microsoft und NVIDIA entwickeltes Protokoll für große KI-Trainingscluster vor. Es soll Verzögerungen durch Überlastung und Netzwerkausfälle verringern, die beim synchronen Training viele GPUs gleichzeitig ausbremsen können. Die Spezifikation wurde über das Open Compute Project veröffentlicht.
MRC teilt Verbindungen in mehrere parallele Netzebenen auf und verteilt Pakete derselben Übertragung über viele Pfade. Bei Überlastung oder Paketverlust wechselt es den Pfad; mit SRv6-Quellrouting gibt der Sender den Weg vor, sodass Switches statische Routen nutzen können. OpenAI zufolge lassen sich so Netze für etwa 131.000 GPUs mit zwei Switch-Ebenen aufbauen, während herkömmliche Designs drei oder vier benötigen.
OpenAI berichtet, MRC werde in seinen größten NVIDIA-GB200-Clustern eingesetzt. Bei Trainingsläufen hätten häufige Verbindungsstörungen keinen messbaren Einfluss gehabt; nach dem Neustart von vier Switches habe das Training ohne vorherige Koordination weiterlaufen können. Die Wirksamkeitsangaben sind Selbstauskünfte des Unternehmens; der Bericht enthält keine unabhängigen Vergleichswerte. Bei einem vollständigen Switch-Ausfall nennt er eine vorübergehende Verlangsamung.
Ausführlich lesen
Der Bericht beschreibt Multipath Reliable Connection (MRC), ein Netzwerkprotokoll, das OpenAI gemeinsam mit AMD, Broadcom, Intel, Microsoft und NVIDIA für große KI-Trainingscluster entwickelt hat. OpenAI begründet den Ansatz damit, dass bei synchronem Training schon verspätete Datenübertragungen oder einzelne Netzwerkausfälle viele GPUs ausbremsen können. Mit wachsenden Clustern würden solche Störungen häufiger und herkömmliche dynamische Routenverfahren könnten nach einem Ausfall Sekunden oder länger zur Erholung benötigen. OpenAI stellt MRC als Beitrag zu einer effizienteren und ausfallsichereren Infrastruktur dar und hat die Spezifikation über das Open Compute Project veröffentlicht.
Ein Baustein ist eine mehrteilige Netzstruktur: Statt eine Netzwerkschnittstelle als einzelne Verbindung mit 800 Gbit/s zu behandeln, wird sie laut Bericht auf mehrere Verbindungen und parallele Netzebenen verteilt. Als Beispiel nennt OpenAI acht Verbindungen mit je 100 Gbit/s. Damit lasse sich ein Netzwerk für rund 131.000 GPUs mit zwei Switch-Ebenen aufbauen; konventionelle Netze mit 800-Gbit/s-Verbindungen benötigten dem Bericht zufolge drei oder vier Ebenen. OpenAI erwartet dadurch geringeren Stromverbrauch und weniger Komponenten sowie mehr Ausweichwege. Mehrere Wege allein reichten jedoch nicht: Wenn jede Übertragung einen einzigen Pfad nutzt, können sich Datenströme auf einzelnen Verbindungen stauen.
MRC verteilt deshalb die Pakete einer einzelnen Übertragung über viele Pfade und Netzebenen. Pakete dürfen in anderer Reihenfolge eintreffen; laut Bericht tragen sie ihre Zieladresse im Speicher, sodass sie beim Empfang abgelegt werden können. Erkennt MRC Überlastung oder Paketverlust, wechselt es den Pfad und sendet möglicherweise verlorene Pakete erneut. Es prüft später, ob ein ausgeschlossener Pfad wieder funktioniert. Bei Überlastung am Ziel kann ein Switch den Paketinhalt entfernen und nur den Kopf weiterleiten, um eine erneute Übertragung anzufordern. OpenAI zufolge ermöglicht diese Kombination, Ausfälle binnen Mikrosekunden zu umgehen.
Für die Routenwahl setzt OpenAI laut Bericht auf SRv6-Quellrouting: Der Sender kodiert den vorgesehenen Weg im Paket, und Switches folgen statisch eingerichteten Routentabellen. Dynamische Routenberechnung wird so entbehrlich; bei einem Ausfall meidet MRC den betroffenen Pfad, ohne dass Switches neue Routen berechnen müssen.
OpenAI berichtet, MRC werde in seinen größten NVIDIA-GB200-Supercomputern eingesetzt und sei für mehrere Modelle verwendet worden. In Produktionsläufen hätten mehrere Verbindungsstörungen pro Minute keinen messbaren Einfluss auf synchrones Vortraining gehabt. Bei einem Modelltraining seien vier Switches neu gestartet worden, ohne dass die Trainings- und Betriebsteams den Vorgang koordinieren mussten. Der Ausfall eines von acht Ports könne zwar die maximale Übertragungsrate um ein Achtel senken; die tatsächliche Verlangsamung sei laut OpenAI jedoch meist deutlich geringer als der Kapazitätsverlust. Diese Leistungsangaben stammen aus dem Bericht selbst: Er nennt keine unabhängigen Vergleichsmessungen oder detaillierten Benchmarkwerte. Bei einem vollständigen Switch-Ausfall beschreibt er zudem eine vorübergehende Verlangsamung, von der sich der Trainingslauf rasch erholt.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die mittlere Zusammenfassung ist sachlich korrekt, lässt aber zentrale Befunde zur Ausfallreaktion aus. Die Einordnungen von Luna sind durchweg zu hoch: Der Bericht ist ein technischer Beitrag zu Netzwerkarchitektur und beantwortet keine der drei Sammel- oder Teilfragen direkt.
Im Bericht, aber nicht in der Zusammenfassung
- Rerouting in Mikrosekunden gegenüber Sekunden bis zehn Sekunden bei konventionellen Netzen
- Packet Trimming verringert Fehlalarme bei Paketverlusten durch Überlastung
- Einsatz bei Microsofts Fairwater-Supercomputern und dem OCI-Standort in Abilene
- Ausfall eines Ports an einer 8-Port-Schnittstelle verringert die Rate nur um ein Achtel
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 78 %Hintergrund, keine Belege
- JEV 42 %gleiches Oberthema, hilft nicht
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P4-T01 Würden Regierungen Messdaten aus der Lieferkette von Chips (Telemetrie), den Stromverbrauch, gemeldete Verzeichnisse von Trainingsläufen und eine unabhängig überwachte Abrechnung von Strom, Hardware und Rechenaufwand als vertragstauglichen Nachweis für die Größe der Trainingsläufe eines anderen Staates anerkennen, ohne Modellgewichte (die gelernten Parameter) oder Code anzurühren? Und wie sähe eine Prüfordnung für Rechenschwellen aus, die nichts über das Innere der Modelle verrät?
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 38 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 75 %einzelne zitierbare Belege
- JEV 32 %einzelne zitierbare Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht?
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben?
- SF-E1-T07 Wenn Staaten Standards für Spitzen-KI bilateral festlegen: Welcher Mechanismus stellt sicher, dass Labore aus Drittstaaten sowie die Fachgruppen der UN für Informations- und Kommunikationstechnik und regionale Normungsgremien diese Standards übernehmen, ändern oder ablehnen können, statt an ein Abkommen gebunden zu sein, an dem sie nicht beteiligt waren?
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 75 %einzelne zitierbare Belege
- JEV 64 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv