How evolutionary selection can train more capable self-driving cars
Zusammenfassung
Kurz
Waymo und DeepMind berichten, dass Population Based Training neuronale Netze durch regelmäßige Wettbewerbe und die Weitergabe erfolgreicher Trainingszustände effizienter abstimmen kann. In einem Experiment zur Erkennung von Fußgängern sank die Zahl falscher positiver Ergebnisse laut Bericht um 24 Prozent, bei hohem Recall und geringerem Trainingsaufwand. Die Angaben beziehen sich auf die beschriebenen Tests.
Mittel
Der Bericht stellt Population Based Training (PBT) vor, eine Methode von DeepMind und Waymo, um Hyperparameter für neuronale Netze beim autonomen Fahren während des Trainings anzupassen. Mehrere Netze treten regelmäßig gegeneinander an: Schwächere werden durch leicht veränderte Kopien erfolgreicher Netze ersetzt, die deren Trainingszustand übernehmen. So muss das Training nicht neu beginnen, und laut Bericht fließt mehr Rechenzeit in erfolgversprechende Einstellungen als bei einer parallelen Zufallssuche.
Erprobt wurde das Verfahren zunächst an einem Netz zur Erkennung von Fußgängern, Rad- und Motorradfahrenden. Ziel war, einen Recall von über 99 Prozent zu halten und falsche positive Erkennungen zu reduzieren. Die Modelle wurden alle 15 Minuten anhand getrennter Validierungsdaten verglichen; für die schnellen Auswertungen kamen Hunderte Maschinen zum Einsatz. Um zu verhindern, dass spät erfolgreiche Varianten früh aussortiert werden, testeten die Teams Teilpopulationen und eine Bevorzugung einzigartiger Modelle.
Für das Experiment meldet der Bericht 24 Prozent weniger falsche positive Ergebnisse als beim manuell abgestimmten Vergleichsmodell. Der PBT-Trainingsablauf habe zudem das vorherige Waymo-Netz mit halber Trainingszeit und halben Ressourcen übertroffen. Diese Ergebnisse sind die Angaben der beteiligten Unternehmen und beziehen sich auf die beschriebenen Experimente.
Ausführlich lesen
Der Bericht beschreibt, wie Waymo und DeepMind Population Based Training (PBT) nutzten, um Trainingsabläufe für neuronale Netze zu verbessern, die beim autonomen Fahren eingesetzt werden. Solche Netze übernehmen unter anderem das Erkennen von Objekten, das Vorhersagen des Verhaltens anderer Verkehrsteilnehmer und die Planung von Fahrmanövern. Das Training einzelner Netze erforderte dem Bericht zufolge häufig viel Rechenleistung und zeitaufwendiges Einstellen von Parametern.
Im Mittelpunkt stehen sogenannte Hyperparameter, etwa die Lernrate, die beeinflussen, wie ein Netz während des Trainings angepasst wird. Übliche Ansätze sind manuelles Nachjustieren und die zufällige Suche über mehrere Trainingsläufe. Bei Letzterer werden viele Netze mit unterschiedlichen Einstellungen parallel trainiert. Forschende können schwächere Läufe überwachen und aussortieren, doch das verursacht zusätzlichen Arbeitsaufwand und Rechenkosten.
PBT verbindet eine solche Suche mit einem Wettbewerb zwischen Netzen. Die Netze starten mit zufälligen Hyperparametern und werden regelmäßig verglichen. Schwächere Modelle werden durch Kopien erfolgreicherer Modelle ersetzt, deren Hyperparameter leicht verändert werden. Dabei übernimmt das neue Modell den Trainingszustand seines Vorläufers und beginnt nicht von vorn. Die Einstellungen können sich während des Trainings weiterentwickeln. Der Bericht zufolge wird dadurch mehr Rechenzeit mit aussichtsreichen Hyperparameterwerten verbracht als bei einer herkömmlichen zufälligen Suche.
Die beschriebenen ersten gemeinsamen Experimente betrafen ein Netz, das erkannte Fußgänger, Radfahrende und Motorradfahrende mit Begrenzungsrahmen markiert. Untersucht wurde, ob PBT die Erkennung von Fußgängern verbessern kann. Ziel war, eine Erkennungsquote (Recall) von über 99 Prozent zu halten und zugleich falsche positive Erkennungen zu verringern. Für faire Modellvergleiche verwendeten die Forschenden getrennte Trainings-, Validierungs- und abschließende Evaluationsdaten. Damit die Wettbewerbe häufig stattfinden konnten, wurden die Modelle alle 15 Minuten bewertet; dafür verteilte Waymo die Auswertung laut Bericht auf Hunderte Maschinen in Google-Rechenzentren.
Ein weiteres Thema ist die Vielfalt der Population. Weil PBT zunächst erfolgreiche Modelle bevorzugt, können Varianten mit später einsetzenden Vorteilen früh aussortiert werden. Die Teams versuchten dem entgegenzuwirken, indem sie Teilpopulationen („Nischen“) bildeten, deren Mitglieder nur innerhalb ihrer Gruppe konkurrierten, und indem sie bei „Fitness Sharing“ einzigartigere Netze begünstigten. Eine größere Vielfalt sollte die Suche nach unterschiedlichen Hyperparameterlösungen fördern.
Für das beschriebene Experiment berichtet der Text von 24 Prozent weniger falschen positiven Ergebnissen als bei einem manuell abgestimmten Vergleichsmodell, während der Recall hoch blieb. Außerdem habe der mit PBT gefundene Trainingsablauf das vorherige Waymo-Netz mit der Hälfte der Trainingszeit und Ressourcen übertroffen. Insgesamt sei PBT mit der Hälfte der Rechenressourcen einer parallelen Zufallssuche ausgekommen. Laut Bericht wurde das Verfahren anschließend auf weitere Waymo-Modelle angewandt. Die Angaben beziehen sich auf die dargestellten Experimente und die Einschätzung der beteiligten Unternehmen; der Text nennt keine unabhängige Überprüfung oder Zahlen zu sämtlichen eingesetzten Fahrzeugmodellen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern treu, nur einzelne Lektionen fehlen. Der Bericht betrifft Trainingsoptimierung für autonomes Fahren und kaum KI-Sicherheitsfragen. Lunas Stufen liegen bei mehreren Fragen zu hoch, besonders bei SF-P3 und SF-V3-T04.
Im Bericht, aber nicht in der Zusammenfassung
- In der kurzen Fassung fehlt die Lehre aus dem Experiment, dass Trainings-, Validierungs- und Evaluationsdaten getrennt sein müssen, damit Netze nicht nur Beispiele auswendig lernen.
- Beide Fassungen nennen nicht, dass PBT laut Bericht inzwischen auf viele Waymo-Modelle angewendet wird.
- Beide Fassungen lassen aus, dass der Bericht die Ergebnisse selbst als Angaben der beteiligten Unternehmen einordnet, ohne unabhängige Prüfung.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 64 %einzelne zitierbare Belege
- JEV 43 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P3-T05 Welches Mindestpaket (Datenverzeichnisse, Code, Zufallsstartwerte, Abbilder der Rechenumgebung, Prüferversionen, Fehlerprotokolle und Annahmen über die Hardware) muss ein Labor sichern oder kontrolliert hinterlegen, damit ein Prüfer ein sicherheitskritisches Trainings- oder Prüfergebnis auch nach Ende seines Zugangs nachrechnen kann, und welche Geheimnisse bleiben unzugänglich?
- SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 43 %gleiches Oberthema, hilft nicht
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 47 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 29 %nur am Rande erwähnt
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist?
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
- SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 56 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung Hintergrund, keine Belege
- SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 37 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 30 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %gleiches Oberthema, hilft nicht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Alle Berichte im Archiv