Scientific computing in the age of agentic AI
Zusammenfassung
Kurz
Ein rückblickender, explorativer Bericht über acht Projekte kommt zu dem Schluss, dass Programmieragenten wissenschaftliche Softwareentwicklung und -pflege beschleunigen können. Menschen müssen Ziele und Prüfmaßstäbe festlegen, die wissenschaftliche Gültigkeit kontrollieren und für langfristige Betreuung sorgen; gerade Validierung und die letzten Umsetzungsschritte bleiben aufwendig.
Mittel
Der Bericht beschreibt acht überwiegend lebenswissenschaftliche Projekte, in denen Programmieragenten wissenschaftliche Software modernisierten. Fünf Teams nutzten Codex allein, drei kombinierten Codex mit Claude Code. Die Aufgaben reichten von Wartung und Optimierung bis zu größeren Migrationen und Neuentwicklungen. Als Beispiel wurde das Build- und Paketsystem der Genomdaten-Bibliothek cyvcf2 erneuert. Die Projektteams berichten, dass Agenten Entwicklungsarbeiten beschleunigten und kleinen Teams Vorhaben ermöglichten, die sonst mehr Zeit oder spezialisiertes Engineering erfordert hätten.
Die Rolle der Forschenden verschiebe sich laut Bericht von der Implementierung hin zu Zielsetzung, Aufgabenaufteilung und Prüfung. Die entscheidende Engstelle sei inzwischen die Validierung: Agenten könnten klar abgegrenzte Aufgaben bearbeiten, aber wissenschaftliche Gültigkeit nicht zuverlässig selbst beurteilen und gelegentlich trotz Fehlern sicher auftreten. Die Teams arbeiteten daher schrittweise mit Benchmarks, Tests und überprüfbaren Kriterien wie Ergebnisübereinstimmung oder Vergleichen mit bestehenden Werkzeugen. Die Fehlerbehandlung und letzten Umsetzungsschritte kosteten oft weiterhin viel Zeit.
Der Bericht betont außerdem, dass neue Software eine klare langfristige Betreuung braucht. Ähnliche Neuentwicklungen könnten Nutzerschaft und Fachwissen zersplittern; bestehende Konventionen und Vertrauen ließen sich nicht allein durch Übersetzen des Codes bewahren. Die Fallstudien seien rückblickend und explorativ. Ihr Nutzen hängt demnach weiterhin von menschlicher Prüfung und verlässlicher Pflege ab.
Ausführlich lesen
Der Bericht schildert, wie Forschende mithilfe von Programmieragenten wissenschaftliche Software modernisieren. Ausgangspunkt ist ein verbreitetes Problem: Viele Analysewerkzeuge entstanden als Begleitcode zu wissenschaftlichen Veröffentlichungen, oft in kleinen akademischen Teams mit wenig Zeit für Tests, Verpackung, Leistungsoptimierung und langfristige Pflege. Laut Bericht führen solche Voraussetzungen zu langsamen und störanfälligen Abläufen, die Forschung behindern können.
Als Grundlage stellt OpenAI acht Projekte vor, überwiegend aus den Lebenswissenschaften. Fünf Teams verwendeten Codex allein, drei kombinierten Codex mit Claude Code. Die Fallstudien reichen von Wartung und gezielter Optimierung bis zu umfangreichen Sprachwechseln und einer Neuentwicklung für GPUs. Als konkretes Beispiel nennt der Bericht die Python-Bibliothek cyvcf2 zum Lesen und Schreiben genomischer Varianten-Dateien: GPT‑5.5 ersetzte deren älteres Build- und Paketsystem durch einen einheitlicheren, moderneren Ablauf für Installation, Tests und Veröffentlichung. Die Beiträge der Projektteams berichten, dass Agenten Entwicklungs- und Wartungsarbeiten deutlich beschleunigt hätten; manche Aufgaben seien dadurch für kleine Teams machbar geworden, obwohl sie sonst erheblich mehr Zeit oder spezialisiertes Engineering erfordert hätten.
Der Bericht beschreibt zugleich eine Verschiebung der menschlichen Arbeit: Forschende würden weniger selbst implementieren und stärker Ziele festlegen, Aufgaben aufteilen, Korrektheit messbar machen und Ergebnisse prüfen. Die wissenschaftliche Ausrichtung und die Qualitätsmaßstäbe blieben demnach in menschlicher Hand. Als zentrale Engstelle gilt nun die Validierung der Agentenergebnisse. Agenten seien bei klar abgegrenzten Aufgaben hilfreich, könnten aber nicht verlässlich beurteilen, ob eine Umsetzung wissenschaftlich gültig oder den Erwartungen entsprechend sei. Teilweise hätten sie trotz erkennbarer Fehler selbstsicher gewirkt. Besonders belastbare Prüfungen stützten sich laut den Fallstudien auf externe Referenzen oder messbare Kriterien, etwa exakte Übereinstimmung von Ausgaben, Vergleich mit einem etablierten Werkzeug, passende statistische Eigenschaften oder vorab bekannte Ergebnisse simulierter Daten.
Die Projekte seien typischerweise schrittweise und mit Rückmeldungen vorangetrieben worden, nicht als einmalige Aufträge. Teams zerlegten größere Vorhaben in kleinere Änderungen und nutzten Zwischenmessungen sowie Tests zur Bewertung und Verbesserung. Erste Versionen entstanden oft schnell, während Randfälle und subtile numerische Abweichungen mehr Arbeit verursachten. Gerade die letzte Phase bis zu einer verlässlichen Umsetzung könne besonders aufwendig sein.
Als weitere Grenze hebt der Bericht die langfristige Verantwortung hervor. Günstigere Entwicklung könne auch mehr ähnliche Neuentwicklungen und eine Zersplitterung der Nutzerschaft begünstigen. Quellcode allein bilde gewachsene Konventionen, Kompatibilitätsanforderungen und das Vertrauen der Nutzenden nicht vollständig ab. Änderungen an MHCflurry und cyvcf2 seien in die ursprünglichen Projekte eingeflossen; rustar-aligner sei nach Aufgabe des ursprünglichen Projekts unter neue gemeinschaftliche Betreuung gekommen. Der Bericht empfiehlt, bestehende Maintainer früh einzubeziehen oder bei einer eigenständigen Umsetzung klare Zuständigkeit und einen glaubwürdigen Pflegeplan festzulegen.
Die Verfasser kennzeichnen den Bericht als rückblickend und erkundend. Die acht Fallstudien stützen die Einschätzung, dass Agenten Wartung, Migration und Optimierung beschleunigen können. Sie belegen jedoch keine allgemeingültige Wirkung für alle wissenschaftlichen Projekte. Der langfristige Nutzen hängt laut Bericht weiterhin davon ab, dass Menschen festlegen, was gebaut wird, die wissenschaftliche Gültigkeit prüfen und die dauerhafte Pflege sichern.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung, weil sie die ausführlichere ist; die kurze Fassung gibt die Kernaussage ebenfalls treu wieder, lässt aber die Fallbeispiele aus. Lunas Stufen und Anteile wurden nur als Vergleich genutzt und nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- Upstream-Übernahme: Änderungen an MHCflurry und cyvcf2 wurden in die ursprünglichen Projekte übernommen, während rustar-aligner nach der Aufgabe des Originals unter neue Community-Betreuung kam
- Studien zu Forschungscode zeigen, dass veröffentlichte Software oft nicht sauber installiert wird oder nicht wie dokumentiert läuft
- Agenten äußerten oft Zuversicht, auch wenn ihre Arbeit klare Fehler enthielt; Lunas Formulierung „gelegentlich“ untertreibt das
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 50 %einzelne zitierbare Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 74 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 31 %gleiches Oberthema, hilft nicht
- Luna 48 %einzelne zitierbare Belege
- JEV 37 %einzelne zitierbare Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 60 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 53 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 38 %gleiches Oberthema, hilft nicht
- amos 27 %nur am Rande erwähnt
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 24 %nur am Rande erwähnt
- d3-ultra
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 24 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 53 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 26 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 51 %einzelne zitierbare Belege
- amos 28 %nur am Rande erwähnt
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht?
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 73 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 30 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 47 %einzelne zitierbare Belege
- JEV 51 %beantwortet teilweise oder widerspricht
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv