Understanding the Global Gain-of-Function Research Landscape
Zusammenfassung
Kurz
Der Bericht wertet rund 7.000 PubMed-Arbeiten aus den Jahren 2000 bis Mitte 2022 zu GOF- und LOF-Forschung aus und beschreibt ein globales, kooperatives Feld mit vielfältigen Methoden und Anwendungen. Er argumentiert, dass Regulierung schwierig ist, weil beide Ansätze oft verflochten sind, Versuchsausgänge nicht immer vorhersehbar sind und die Risiken je nach Erreger und Methode variieren.
Mittel
Der CSET-Bericht kartiert Gain-of-Function- (GOF) und Loss-of-Function-Forschung (LOF), bei der Erreger genetisch verändert werden, um ihre Eigenschaften zu untersuchen. Grundlage ist eine Suche in PubMed mit maschinellem Lernen und anschließender fachlicher Prüfung. Erfasst wurden rund 7.000 Veröffentlichungen von 2000 bis Mitte 2022.
Laut Bericht findet diese Forschung weltweit und kooperativ statt; Forschende mit US-Bezug waren an etwa der Hälfte der Publikationen beteiligt. GOF und LOF kommen oft gemeinsam vor, LOF wird jedoch in mehr Veröffentlichungen behandelt. Die Verfahren und Anwendungen sind vielfältig: 21 Prozent der erfassten Arbeiten nutzten serielle Passagierung statt anspruchsvollerer Methoden wie CRISPR, und etwa 24 Prozent standen mit Impfstoffentwicklung in Verbindung. Nahezu alle Arbeiten untersuchten Erreger der Biosicherheitsstufen BSL-2, BSL-2+ oder BSL-3.
Der Bericht zufolge erschweren die Verflechtung von GOF und LOF, die begrenzte Vorhersagbarkeit von Versuchsergebnissen und unterschiedliche Risikofaktoren eine pauschale Regulierung. Regeln müssten gezielt risikoreiche Forschung erfassen, ohne nützliche Anwendungen unnötig zu behindern. Die Aussagen beziehen sich auf die ausgewählten PubMed-Arbeiten bis Mitte 2022.
Ausführlich lesen
Der Bericht des Center for Security and Emerging Technology (CSET) beschreibt die weltweite Forschung zu Gain-of-Function (GOF) und Loss-of-Function (LOF). Bei diesen miteinander verbundenen Ansätzen verändern Forschende das Erbgut von Krankheitserregern, um Funktionen hinzuzufügen oder zu entfernen. So können sie Eigenschaften von Erregern untersuchen und Erkenntnisse für Impfstoffe und Therapien gewinnen. GOF steht besonders im Fokus politischer Debatten, weil manche darin ein Risiko für unbeabsichtigte Ausbrüche und weitreichende Erkrankungen sehen. LOF wird als Ansatz beschrieben, der Erreger abschwächt, und ist in diesen Debatten weniger präsent.
Für die Bestandsaufnahme kombinierten die Autorinnen und Autoren maschinelles Lernen mit einer fachlichen Prüfung. Sie identifizierten rund 7.000 einschlägige PubMed-Veröffentlichungen aus dem Zeitraum 2000 bis Mitte 2022. Der Bericht will politischen Entscheidungsträgern helfen, Risiken zu mindern, ohne nützliche Forschung unnötig zu beeinträchtigen.
Der Analyse zufolge findet GOF- und LOF-Forschung weltweit und in Kooperation statt; Forschende mit US-Bezug wirkten an etwa der Hälfte der erfassten Veröffentlichungen mit. Beide Forschungsarten treten oft innerhalb derselben Studie auf, wobei LOF in mehr Veröffentlichungen vorkommt als GOF. Die Arbeiten umfassen unterschiedliche Verfahren, Erreger und Anwendungsfelder. Sie erfordern nicht zwingend moderne Genomeditierung: 21 Prozent der erfassten Veröffentlichungen nutzten serielle Passagierung, also wiederholte Übertragung von Erregern, statt technisch anspruchsvollerer Verfahren wie CRISPR. Dieses Vorgehen war bei GOF-Arbeiten häufiger als bei LOF-Arbeiten. Die untersuchten Erreger deckten alle vier Biosicherheitsstufen ab; nahezu alle Arbeiten betrafen Erreger der Stufen BSL-2, BSL-2+ oder BSL-3. Rund 24 Prozent der erfassten Veröffentlichungen standen mit Impfstoffentwicklung in Verbindung. Besonders häufig untersucht wurden Erreger, die eine hohe globale Krankheitslast verursachen.
Der Bericht hält eine Regulierung für schwierig und nennt dafür mehrere Gründe. GOF und LOF seien in Anwendungen für die öffentliche Gesundheit weit verbreitet und eng miteinander verflochten, sodass Einschränkungen der GOF-Forschung auch weniger riskante LOF-Arbeiten treffen und Entwicklungen verzögern könnten. Zudem lasse sich nicht immer vorhersagen, ob ein Experiment die Virulenz eines Erregers erhöht oder senkt; eine Regulierung, die nur im Voraus als GOF eingestufte Vorhaben erfasst, könnte daher unbeabsichtigte Effekte übersehen. Auch Beschränkungen von Genomeditierung oder DNA-Synthese würden serielle Passagierung nicht erfassen. Schließlich variiere das Risiko einzelner Studien je nach Biosicherheitsstufe des Erregers, Methode und verwendetem Tiermodell. Der Bericht plädiert deshalb für Regeln, die unterschiedliche Risiken berücksichtigen, statt alle GOF- und LOF-Forschung gleich zu behandeln.
Die Ergebnisse beruhen auf der Auswahl und Einordnung von PubMed-Publikationen anhand der verwendeten Kriterien. Der Berichtsauszug nennt keine detaillierten Angaben zu Unsicherheiten oder zur Übertragbarkeit der Zählungen über den erfassten Zeitraum und die Datenbank hinaus.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Einordnung bezieht sich auf einen Bericht zu biologischer Gain-of-Function-Forschung, nicht auf KI-Sicherheit; die Stufen und Anteile aus Lunas Einordnung wurden nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- Politischer Kontext: GOF-Forschung steht in den USA nach der COVID-19-Pandemie im Fokus politischer Debatten
- LOF schwächt Erreger ab und birgt laut Bericht nicht dieselben Risiken wie GOF
- GOF und LOF nutzen dieselben Versuchsverfahren, weshalb beide von Regeln betroffen wären
- Serielle Passagierung kommt bei GOF häufiger vor als bei LOF
- Die meistuntersuchten Erreger sind solche mit hoher globaler Krankheitslast
- Regeln für Gen-Editierung wie CRISPR würden etwa 21 Prozent der Versuche nicht erfassen
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %nur am Rande erwähnt
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 49 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten?
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 79 %Hintergrund, keine Belege
- JEV 56 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 62 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle?
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennen andere, dass ein Labor wirklich bremst?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Alle Berichte im Archiv