How fast can algorithms advance capabilities?
Zusammenfassung
Kurz
Der Beitrag argumentiert, dass manche Algorithmusverbesserungen schon bei kleinen Modellen wirken, während die größten historischen Leistungsgewinne laut Autor oft erst mit viel Rechenleistung sichtbar werden. Kleine Tests und eine Literaturübersicht stützen diese Einschätzung, doch sie messen nur den Vortrainingsverlust eines kleinen Modells und lassen unter anderem Inferenz, Nachtraining und größere Maßstäbe offen.
Mittel
Henry Josephson erörtert, ob große KI-Fortschritte auch ohne stark wachsende Rechenleistung möglich sind. Er unterscheidet zwischen algorithmischen Verbesserungen, die bereits bei kleinen Modellen helfen, und solchen, deren Nutzen erst bei größerem Maßstab sichtbar wird. Eine Literaturübersicht zu GPT-, BERT-, LLaMA- und DeepSeek-Modellen sowie Tests mit einer verkleinerten GPT-2-Version (etwa 165 Millionen Parameter) bilden die Grundlage. Gemessen wurde der Rechenaufwand, der ohne eine Verbesserung nötig wäre, um denselben Vortrainingsverlust auf OpenWebText zu erzielen. LayerNorm, RoPE und FlashAttention ergaben zusammen laut Beitrag einen CEG von etwa 3,5. Der Autor stellt dies möglichen Gewinnen von 10- bis 50-fach oder mehr bei stark rechenleistungsabhängigen Verfahren gegenüber.
DeepSeek-V3 veranschauliche, wie algorithmische Verfahren trotz Hardwarebeschränkungen zu leistungsfähigen Modellen beitragen können. Der Beitrag argumentiert, dass große Rechenbudgets die Suche nach besonders wirksamen Algorithmen erleichtern und Hardwarebeschränkungen den Fortschritt daher bremsen, aber nicht beenden dürften. Die Befunde sind vorläufig: getestet wurde nur ein kleines Modell, gemessen wurde Vortrainingsverlust statt nachgelagerter Fähigkeiten, und viele Bereiche wie Inferenz, RL, Datenwechselwirkungen und andere Fachgebiete blieben außen vor.
Ausführlich lesen
Der Gastbeitrag von Henry Josephson untersucht, wie stark algorithmische Fortschritte von verfügbarer Rechenleistung abhängen und was das für das Tempo des KI-Fortschritts bedeuten könnte. Anlass ist das Szenario „AI 2027“, in dem KI-Systeme sich binnen weniger Jahre durch rekursive Selbstverbesserung stark beschleunigen. Der Autor zufolge hängt die Plausibilität eines solchen schnellen Übergangs unter anderem davon ab, ob wichtige Algorithmusverbesserungen schon mit kleinen Modellen erkennbar sind oder erst bei großem Rechenaufwand ihre Wirkung entfalten.
Der Beitrag unterscheidet zwischen rechenleistungsunabhängigen Verbesserungen, deren Nutzen schon bei kleinen Modellen auftritt und mit größerem Maßstab anhält oder zunimmt, und rechenleistungsabhängigen Verbesserungen, die bei wenig Rechenleistung wenig helfen oder die Leistung sogar verschlechtern können. Für eine Literaturübersicht betrachtete das Team öffentlich dokumentierte Modellfamilien wie frühe GPTs, BERT-Varianten, LLaMA und DeepSeek. Es konzentrierte sich möglichst auf aufeinanderfolgende Generationen derselben Familie, um Unterschiede in den Trainingsdaten teilweise zu kontrollieren. Beispiele sind die Entwicklung von Sparse Attention, LayerNorm zu RMSNorm sowie von Standard- zu Grouped-Query-Attention. Die Forschenden wählten außerdem wiederholt eingesetzte Algorithmen aus, die sich mit ihren begrenzten Mitteln praktisch testen ließen.
Für Experimente implementierte das Team ausgewählte Verfahren in einer verkleinerten GPT-2-Version mit etwa 165 Millionen statt 1,5 Milliarden Parametern. Als Maß diente der „compute-equivalent gain“ (CEG): wie viel zusätzliche Rechenleistung ohne eine Verbesserung nötig wäre, um denselben Cross-Entropy-Verlust auf OpenWebText zu erreichen. Die Kombination von LayerNorm, RoPE und FlashAttention erzielte laut Beitrag auf diesem kleinen Modell einen CEG von ungefähr 3,5. Der Autor stellt dies den deutlich größeren, in der Literatur dokumentierten Gewinnen mancher rechenleistungsabhängiger Verfahren gegenüber, die bei großem Maßstab 10- bis 50-fach oder mehr betragen könnten. Er betont zugleich, dass die Abhängigkeit kein einfaches Entweder-oder sei und einzelne Verfahren bei kleinen Modellen kaum nützen oder sogar schaden könnten.
DeepSeek-V3 dient als Fallbeispiel: Trotz eingeschränktem Zugang zu Hochleistungschips habe der abschließende Trainingslauf des 671-Milliarden-Parameter-Modells 2,788 Millionen H800-GPU-Stunden beansprucht. Der Beitrag vergleicht dies mit rund 30,84 Millionen Stunden auf leistungsfähigeren H100-GPUs für LLaMA 3.1-405B-Instruct. Als mögliche Erklärung nennt er unter anderem Multi-Headed Latent Attention, Mixture of Experts und Training mit gemischter Genauigkeit. Der Autor folgert, dass algorithmische Verbesserungen Fortschritt auch unter Hardwarebeschränkungen ermöglichen, die wirkungsvollsten Beispiele aber gerade Verfahren seien, deren Vorteile erst bei größerem Maßstab deutlich würden.
Daraus leitet er ab, dass Rechenleistung sowohl größere Modelle als auch das Entdecken und Überprüfen besonders wirksamer Algorithmen begünstigen kann. Beschränkungen könnten solche Durchbrüche verlangsamen, würden Fortschritt aber nicht vollständig stoppen, da Verbesserungen mit geringem Rechenbedarf weiter möglich seien. Die Prognose hängt laut Autor davon ab, wie leicht und wie häufig Labore rechenleistungsabhängige Fortschritte finden und validieren können.
Die Aussagekraft ist begrenzt: Die Experimente nutzten ein kleines Modell und maßen Vortrainingsverlust, nicht nachgelagerte Fähigkeiten. Die Einordnung beruht auf Literaturauswertung und kleinen Tests statt systematischen Mehrskalenexperimenten. Nicht untersucht wurden unter anderem Inferenzzeitverfahren, Nachtraining und RL, Wechselwirkungen mit Trainingsdaten sowie andere Bereiche wie Bildverarbeitung oder Biologie. Der Autor fordert Replikationen bei größeren Maßstäben und weitere Untersuchungen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas zwei Zusammenfassungen (kurz und mittel) wurden gemeinsam geprüft; beide geben den Bericht sachlich korrekt wieder, lassen aber Davidson-Debatte, DeepSeek-V3 und regulatorische Folgerungen aus. Die Prozentangaben in Lunas Einordnung sind im Schema nicht vorgesehen und wurden nicht bewertet; die Stufen wurden unabhängig vergeben und weichen bei mehreren Fragen deutlich nach unten ab.
Im Bericht, aber nicht in der Zusammenfassung
- Davidsons Gegenargument, dass Forscher aus kleinen Experimenten extrapolieren können, und die Antwort des Autors, dass Experimente mit Dutzenden bis Hunderten H100 bereits ausreichend Signal liefern
- Die Schlussfolgerung für Regulierung: Exportkontrollen bremsen den Fortschritt, stoppen ihn aber nicht, und Compute-Schwellen werden durch compute-unabhängige Fortschritte schwerer zu definieren
- DeepSeek-V3 als Beispiel dafür, wie algorithmische Verbesserungen trotz eingeschränkter Hardware zu einem leistungsfähigen Modell führen
- Die Einordnung, dass compute-Abhängigkeit ein Spektrum ist, mit dem Beispiel Multi-Query-Attention
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %Hintergrund, keine Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 25 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 42 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P3-T05 Welches Mindestpaket (Datenverzeichnisse, Code, Zufallsstartwerte, Abbilder der Rechenumgebung, Prüferversionen, Fehlerprotokolle und Annahmen über die Hardware) muss ein Labor sichern oder kontrolliert hinterlegen, damit ein Prüfer ein sicherheitskritisches Trainings- oder Prüfergebnis auch nach Ende seines Zugangs nachrechnen kann, und welche Geheimnisse bleiben unzugänglich?
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 26 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 33 %gleiches Oberthema, hilft nicht
- amos 27 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 40 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 29 %gleiches Oberthema, hilft nicht
- d3-ultra 43 %gleiches Oberthema, hilft nicht
- SF-T1-T01 Welche messbaren, maschinell prüfbaren Fähigkeitsschwellen sollen Labore veröffentlichen, die vor dem Einsatz von Agentensystemen eine verpflichtende Pause und eine Prüfung von außen auslösen, abgestimmt über alle Labore hinweg? Wer führt das Register, und wo soll die Gesellschaft die verbindliche Sicherheitsgrenze für weitere Steigerungen der Fähigkeiten ziehen?
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 71 %Hintergrund, keine Belege
- JEV 33 %Hintergrund, keine Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T2-T01 Welche öffentliche, nachprüfbare Handlung würde als Verzicht auf weitere Skalierung zählen, nicht nur eine Ankündigung? Was müsste ein Labor veröffentlichen, damit eine rivalisierende Regierung bestätigen kann, dass wirklich pausiert wurde, und welche nachträglichen Belege würden zeigen, dass keine Fähigkeitszuwächse zurückgehalten wurden, etwa durch nicht offengelegte Änderungen an Rechenleistung beim Einsatz oder Werkzeugzugang oder durch einen nicht offengelegten Austausch von Modellen?
- SF-T2-T02 Wenn ein Labor zusagt, weitere Skalierung von sich aus zurückzuhalten oder die Ausrichtungsforschung (Forschung dazu, wie Modelle den vorgesehenen Zielen und Werten folgen) den Fähigkeiten voraus zu halten: Umfasst die Zusage nur neues Training oder auch mehr Rechenleistung beim Einsatz, mehr Denkaufwand, Werkzeugzugang und ausgetauschte Modelle auf dem Server, und welche dieser Änderungen würde es vorher ankündigen?
- SF-T2-T04 Würde ein Labor eine Verlangsamung akzeptieren, deren Einhaltung es bei der Konkurrenz nicht prüfen kann?
- SF-T2-T05 Wenn ein Staat oder Labor einen entscheidenden Vorsprung bei KI-Fähigkeiten erlangt: Welcher Mechanismus hindert diesen Akteur daran, Sicherheitsabkommen als bremsende strategische Last zu behandeln statt als gegenseitigen Nutzen?
- SF-T2-T08 Wird ein Labor vor einer Tempozusage prüfen, ob es eine unabhängig begründete Pause einhalten könnte, ohne Finanzierungs- oder Abnahmepflichten für Rechenleistung zu verletzen, und welche Vertragsänderungen nötig wären, wo diese Pflichten es sonst zum Neustart drängen würden?
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 26 %Hintergrund, keine Belege
- Luna 64 %einzelne zitierbare Belege
- JEV 33 %einzelne zitierbare Belege
- amos 32 %einzelne zitierbare Belege
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 28 %Hintergrund, keine Belege
- d3-ultra 31 %nur am Rande erwähnt
- Haiku-Prüfung nur am Rande erwähnt
- SF-T3-T01 Welches messbare Zeichen, also welche beobachtbare Änderung in der Fähigkeit eines Modells, die Abläufe zu verbessern, mit denen seine eigenen Fähigkeiten entwickelt werden, würden Labore und Staaten gemeinsam als Beginn der Selbstverbesserung anerkennen, und wer darf im Labor danach suchen? Welche beobachtbare Änderung markiert den Schritt von beaufsichtigter automatisierter Forschung zu voll selbstständiger Selbstverbesserung, und welche öffentliche Stelle darf diesen Schritt nach Prüfung der Belege für menschliche Kontrolle erlauben oder ablehnen?
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
- SF-T3-T06 Wenn ein unabhängiger Prüfer, der mit Zugang wie ein Mitarbeiter in einem Labor arbeitet, meldet, dass die für die Selbstverbesserung relevante Automatisierung schon schneller voranschreitet, als der diplomatische Zeitplan für gemeinsame Prüfungen, Tempogrenzen der Selbstverbesserung und eine umfassende Verlangsamung annimmt: Kehrt sich die Reihenfolge der Verhandlungen um, weil die Prüfung zeigt, dass die Vereinbarung schon zu spät kommt? Und muss der Prüfer das den Regierungen melden, oder ist es ihm freigestellt?
- SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht?
- SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 29 %Hintergrund, keine Belege
- Luna 61 %Hintergrund, keine Belege
- JEV 38 %Hintergrund, keine Belege
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen?
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 26 %Hintergrund, keine Belege
- Luna 74 %einzelne zitierbare Belege
- JEV 50 %beantwortet teilweise oder widerspricht
- amos 40 %einzelne zitierbare Belege
- SubQ 34 %einzelne zitierbare Belege
- drex 36 %einzelne zitierbare Belege
- d3-ultra 60 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-H5-T01 Werden Staaten für jede Beschränkung fortgeschrittener Chips oder Anlagen den Sicherheitsgrund, die Dauer und das Prüfverfahren veröffentlichen, nach dem sie aufgehoben werden kann?
- SF-H5-T03 Welche beobachtbare Reaktion würde zeigen, dass Technologiebeschränkungen ein überprüfbares Sicherheitsabkommen unwahrscheinlicher machen, während sie den Fähigkeitsvorsprung vergrößern, und wie würde sich die Strategie dann ändern?
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 34 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben?
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 49 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 45 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 64 %Hintergrund, keine Belege
- JEV 54 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen?
- SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV 43 %Hintergrund, keine Belege
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
- SF-E5-T04 Wie wird jede Regierung der eigenen Bevölkerung ihre Zusagen zur KI-Sicherheit erklären, ohne dass die Erklärung als Zugeständnis an die anderen oder als Zeichen eigener Schwäche bei KI-Fähigkeiten gelesen wird?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv