Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset3. Dezember 2024 · Q003151

RFI Response: Safety Considerations for Chemical and/or Biological AI Models

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende kurze Auszug aus einer CSET-Stellungnahme benennt Chancen chemischer und biologischer KI für Forschung und Innovation sowie Bedenken hinsichtlich möglicher biologischer Bedrohungen. Er verweist auf einen Bericht zu Schadenswegen und politischen Maßnahmen, enthält aber selbst keine konkreten Ergebnisse oder Empfehlungen; die vollständige Stellungnahme liegt nicht vor.

Mittel

Der bereitgestellte Text ist nur ein kurzer Auszug aus einer Stellungnahme von Steph Batalis und Vikram Venkat vom Center for Security and Emerging Technology (CSET) an das U.S. Artificial Intelligence Safety Institute; die vollständige Stellungnahme liegt nicht vor. CSET erklärt, die Wechselwirkungen von KI und Biotechnologie sowie deren Bedeutung für die nationale, wirtschaftliche und gesundheitliche Sicherheit der USA zu untersuchen.

Die Autorinnen sehen sowohl Chancen für biomedizinische Forschung und wissenschaftliche Innovation als auch Bedenken, dass KI-Werkzeuge biologische Bedrohungen begünstigen könnten. Als Bezugspunkt für die Fragen des RFI verweisen sie auf einen CSET-Bericht, der laut ihrer Beschreibung mögliche Schadenswege durch Krankheitserreger oder Toxine und politische Maßnahmen zur Risikominderung behandelt. Der Auszug nennt jedoch keine konkreten Untersuchungsmethoden, Ergebnisse oder Empfehlungen an AISI. Eine erwähnte Abbildung ist im vorliegenden Text nicht inhaltlich enthalten.

Ausführlich lesen

Der bereitgestellte Text ist nur ein kurzer Auszug aus einer Stellungnahme des Center for Security and Emerging Technology (CSET) an das U.S. Artificial Intelligence Safety Institute (AISI); die vollständige Stellungnahme liegt hier nicht vor. Die Autorinnen Steph Batalis und Vikram Venkat begrüßen die Gelegenheit, sich zu künftigen Verfahren für die verantwortungsvolle Entwicklung und Nutzung chemischer und biologischer KI-Modelle zu äußern. CSET untersucht nach eigener Darstellung, wie KI und Biotechnologie zusammenwirken und welche Folgen dies für die Sicherheit der USA in den Bereichen nationale Sicherheit, Wirtschaft und Gesundheit haben kann.

Der Auszug beschreibt ein Spannungsfeld: KI könne biomedizinische Forschung und wissenschaftliche Innovation fördern, zugleich gebe es Bedenken, dass solche Werkzeuge zu biologischen Bedrohungen beitragen könnten. Als Bezugspunkt für die im RFI aufgeworfenen Fragen nennen die Autorinnen einen weiteren CSET-Bericht, „Anticipating Biorisk: A Toolkit for Strategic Biosecurity Policy“. Laut der Beschreibung behandelt dieser Bericht, auf welche Weise Krankheitserreger oder Toxine schädliche Folgen verursachen können und welche Maßnahmen politische Entscheidungsträger zur Risikominderung ergreifen können.

Der vorliegende Auszug erläutert weder die konkreten Vorgehensweisen der Forschung noch Ergebnisse einer eigenen Analyse oder einzelne Empfehlungen an AISI. Er enthält lediglich die allgemeine Einordnung und einen Verweis auf den genannten Bericht. Eine Abbildung wird im archivierten Text als nachgeholt aufgeführt, ihr Inhalt ist im bereitgestellten Material jedoch nicht wiedergegeben. Daher lassen sich aus diesem Auszug keine weitergehenden Aussagen zu den dort behandelten Sicherheitsmaßnahmen oder zur vollständigen Stellungnahme ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 51 %gleiches Oberthema, hilft nicht
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 33 %Hintergrund, keine Belege
    • Luna 32 %gleiches Oberthema, hilft nicht
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 25 %Hintergrund, keine Belege
    • Luna 40 %einzelne zitierbare Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 50 %Hintergrund, keine Belege

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 25 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 36 %Hintergrund, keine Belege
    • Luna 48 %Hintergrund, keine Belege
    • JEV 50 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %Hintergrund, keine Belege
    • Luna 50 %gleiches Oberthema, hilft nicht
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 31 %Hintergrund, keine Belege
    • Luna 74 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 28 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 58 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 27 %Hintergrund, keine Belege
    • Luna 58 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 35 %gleiches Oberthema, hilft nicht
    • JEV 41 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 68 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 57 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 30 %Hintergrund, keine Belege
    • Luna 44 %gleiches Oberthema, hilft nicht
    • JEV 35 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 30 %nur am Rande erwähnt
    • Luna 30 %Hintergrund, keine Belege
    • JEV 51 %nur am Rande erwähnt
    • amos 32 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 38 %nur am Rande erwähnt
    • d3-ultra 67 %nur am Rande erwähnt
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →