Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset3. März 2022 · Q006152

Recommendations to OSTP on the National Artificial Intelligence Research and Development Strategic Plan

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Auszug enthält 15 CSET-Empfehlungen zur Aktualisierung des US-amerikanischen KI-Forschungsplans, darunter vorsichtige Langzeitforschung, vertrauenswürdige Mensch-KI-Zusammenarbeit, Datenschutz und realitätsnahe Sicherheitsprüfungen. Zudem fordert CSET bessere Standards und Daten, eine breiter erfasste KI-Forschungsbelegschaft, öffentlich-private Partnerschaften und mehr Transparenz; Angaben zu Umsetzung oder Wirkung fehlen.

Mittel

Der bereitgestellte Auszug fasst 15 Empfehlungen des Center for Security and Emerging Technology (CSET) zur Aktualisierung des US-amerikanischen Forschungs- und Entwicklungsplans für KI zusammen. Die zuständigen Regierungsstellen hatten laut Einleitung um entsprechende Vorschläge gebeten. Der Text präsentiert Empfehlungen, keine Untersuchungsergebnisse.

CSET plädiert für Vorsicht bei langfristiger Forschung zu allgemeiner oder menschenähnlicher KI und für Werkzeuge, die eine angemessene Vertrauensbildung in der Zusammenarbeit von Menschen und KI unterstützen. NSF und DARPA sollten datenschutzwahrende Computer-Vision-Forschung als Alternative zur automatisierten Massenüberwachung durch Gesichtserkennung fördern.

Weitere Vorschläge betreffen realitätsnahe Sicherheitstests, Schwachstellen in der KI-Software-Lieferkette, KI-spezifische Standards, Cybersicherheitsdatensätze und bessere Verknüpfbarkeit bestehender Datenressourcen. Systeme sollten mit praxisrelevanten Kennzahlen unter tatsächlichen Einsatzbedingungen bewertet werden. CSET fordert außerdem globale Standards für Gesichtserkennung, mehr Daten und eine breitere Definition der KI-Forschungsbelegschaft, weniger Einwanderungshürden für ausländische Fachkräfte, öffentlich-private Partnerschaften zur Schließung von Forschungslücken sowie mehr Transparenz in der US-Bundesforschung. Der Auszug berichtet nicht über Umsetzung oder Folgen dieser Vorschläge.

Ausführlich lesen

Der bereitgestellte Auszug enthält die Einleitung und eine Liste von 15 Empfehlungen des Center for Security and Emerging Technology (CSET). Das Papier wurde laut Einleitung für das Office of Science and Technology Policy und weitere US-Regierungsstellen eingereicht, nachdem diese um Vorschläge zur Aktualisierung des Nationalen Forschungs- und Entwicklungsplans für Künstliche Intelligenz gebeten hatten. Der Auszug beschreibt weder ein eigenes Forschungsdesign noch Ergebnisse einer Untersuchung; er formuliert Empfehlungen zur Ausrichtung der staatlichen KI-Forschung und -Entwicklung.

CSET empfiehlt, bei langfristiger KI-Forschung Vorsicht walten zu lassen, wenn diese auf allgemeine oder menschenähnliche KI zielt. Für die Zusammenarbeit von Menschen und KI-Systemen sollten Werkzeuge entwickelt werden, mit denen sich Vertrauen angemessen abstimmen lässt. Als Alternative zu automatisierter Massenüberwachung durch Gesichtserkennung schlägt CSET vor, NSF und DARPA sollten datenschutzwahrende Computer-Vision-Forschung fördern.

Ein weiterer Schwerpunkt betrifft Sicherheit und verlässliche Bewertung. Die Empfehlungen sprechen sich dafür aus, realitätsnähere Angriffe auf KI-Systeme zu untersuchen, Schwachstellen in der Software-Lieferkette zu erfassen und zu mindern sowie KI-spezifische Standards und Verfahren zur Bewertung des Entwicklungsstands zu erarbeiten. Außerdem sollten Datensätze und Testumgebungen mit Bezug zur Cybersicherheit gezielt gefördert und bestehende Datenressourcen besser miteinander kompatibel gemacht werden. KI-Systeme sollten anhand praxisrelevanter Kennzahlen und unter den Bedingungen ihres tatsächlichen Einsatzes geprüft werden; ihre Leistung müsse über verschiedene Einsatzbedingungen hinweg charakterisiert werden.

Für Standards fordert CSET, die Entwicklung weltweiter Standards für Gesichtserkennung als neue Priorität der US-amerikanischen KI-Standardsagenda aufzunehmen und die Beteiligung US-amerikanischer Unternehmen an Normungsgremien zu fördern. Zur Arbeitskräftepolitik empfiehlt das Papier, die KI-Forschungs- und Entwicklungsbelegschaft breiter als nur über Informatikforschende zu definieren, ihre Zusammensetzung statistisch zu erfassen und entsprechende Daten zu veröffentlichen. Zudem sollten Hindernisse im Einwanderungsverfahren beseitigt werden, die nach Darstellung der Empfehlungen verhindern, dass im Ausland geborene KI-Fachkräfte eine Aufenthaltsgenehmigung in den USA erhalten.

Schließlich schlägt CSET vor, Lücken in der privatwirtschaftlichen KI-Forschungsagenda zu bestimmen und dafür öffentlich-private Partnerschaften zu bilden. Mehr Transparenz im bundesstaatlichen KI-Forschungs- und Entwicklungsökosystem solle ebenfalls zu einer neuen strategischen Priorität werden. Der Auszug nennt diese Punkte als Empfehlungen; er liefert keine Angaben dazu, ob sie umgesetzt wurden oder welche Wirkungen sie hatten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 24 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 82 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 38 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 29 %einzelne zitierbare Belege
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra 40 %nur am Rande erwähnt

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege
    • SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht

  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV 36 %nur am Rande erwähnt
    • amos 31 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 35 %Hintergrund, keine Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 32 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-F5-T01 Vereinbaren zwei Regierungen vor dem nächsten großen Vorfall, nicht erst danach, eine eng begrenzte gemeinsame Übung, etwa ein abgeschirmtes Red-Team-Szenario (einen simulierten Angriff), das benannte Forschende aus beiden Ländern gegen Testanlagen kritischer Infrastruktur der jeweils anderen Seite durchführen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 4 · 49 % · einzelne zitierbare Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 60 %einzelne zitierbare Belege
    • JEV 26 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 34 %Hintergrund, keine Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 32 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 81 %gleiches Oberthema, hilft nicht

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 36 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 79 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 46 %gleiches Oberthema, hilft nicht
    • JEV 29 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 36 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 47 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 47 %einzelne zitierbare Belege
    • JEV 32 %nur am Rande erwähnt
    • amos 30 %einzelne zitierbare Belege
    • SubQ 32 %einzelne zitierbare Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 53 %nur am Rande erwähnt

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 49 %einzelne zitierbare Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 33 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 4 · 53 % · einzelne zitierbare Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 31 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 42 %gleiches Oberthema, hilft nicht

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %Hintergrund, keine Belege
    • Luna 68 %einzelne zitierbare Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 24 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 26 %einzelne zitierbare Belege
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 67 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 26 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 32 %Hintergrund, keine Belege
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →