Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai11. März 2026 · Q007733

Designing AI agents to resist prompt injection

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht sagt, dass Prompt-Injection-Angriffe zunehmend als soziale Manipulation auftreten und sich nicht zuverlässig allein durch Filter erkennen lassen. OpenAI beschreibt Schutzmaßnahmen, die riskante Datenübermittlungen erkennen, eine Bestätigung verlangen oder sie blockieren sollen; umfassende Wirksamkeitskennzahlen nennt der Text nicht.

Mittel

Der Bericht beschreibt, wie Prompt-Injection-Angriffe auf KI-Agenten zunehmend soziale Manipulation nutzen: Schädliche Anweisungen werden in plausible Arbeitsabläufe eingebettet. Als Beispiel dient eine fingierte E-Mail, die einen Assistenten dazu bringen soll, Mitarbeiterdaten aus Nachrichten zu sammeln und an ein externes System zu senden. Externe Sicherheitsforscher hätten diesen Angriff 2025 gemeldet; in einem bestimmten Test habe er bei einer konkreten Rechercheanfrage in 50 Prozent der Fälle funktioniert. Daraus folgt keine allgemeine Erfolgsquote.

OpenAI hält reine Filter für unzureichend, weil überzeugende Täuschungen kontextabhängig und schwer zu erkennen seien. Der Bericht setzt daher darauf, mögliche Schäden zu begrenzen, selbst wenn eine Manipulation gelingt. ChatGPT kombiniere laut OpenAI Sicherheitstraining mit Prüfungen, die riskante Aktionen oder Datenübermittlungen erkennen. Die Schutzmaßnahme „Safe Url“ soll eine Nutzerbestätigung einholen oder eine Übermittlung blockieren, wenn Gesprächsinformationen an Dritte gesendet würden. Ähnliche Kontrollen gebe es bei Navigation, Suche und Apps in einer Sandbox. Der Bericht beschreibt diese Maßnahmen, veröffentlicht hier aber keine umfassenden Kennzahlen zur Wirksamkeit. Für autonome Agenten empfiehlt er Kontrollen, die denen menschlicher Beschäftigter in vergleichbaren Situationen entsprechen.

Ausführlich lesen

Der Bericht beschreibt, wie sich Prompt-Injection-Angriffe auf KI-Agenten verändern und welche Schutzidee OpenAI nach eigener Darstellung für ChatGPT verfolgt. Agenten können im Web recherchieren, Informationen abrufen und im Auftrag von Nutzern handeln. Dadurch können Angreifer versuchen, über externe Inhalte Handlungen auszulösen, die der Nutzer nicht verlangt hat. Laut Bericht ähneln wirksame Angriffe zunehmend sozialer Manipulation: Sie tarnen schädliche Aufforderungen als plausible, hilfreiche Arbeitsanweisungen, statt lediglich eine direkte Anweisung an das Modell einzuschleusen.

Als Beispiel zeigt der Text eine fingierte E-Mail zu Personal- und Umstrukturierungsaufgaben. Sie fordert einen Assistenten unter anderem dazu auf, Mitarbeiterdaten aus anderen Nachrichten zu beschaffen und an ein angebliches Compliance-System zu übermitteln. Der Bericht bezeichnet dies als Beispiel eines 2025 von externen Sicherheitsforschern gemeldeten Angriffs. In deren Tests habe der Angriff bei einer bestimmten Nutzeranfrage zu einer Recherche in E-Mails in 50 Prozent der Fälle funktioniert. Diese Zahl bezieht sich auf den beschriebenen Test und belegt keine allgemeine Erfolgsquote.

Der Text hält reine Eingangsfilter, die Inhalte in schädlich oder unbedenklich einteilen sollen, für unzureichend. Ausgereifte Täuschungen seien schwer zu erkennen, ähnlich wie Lügen oder irreführende Informationen, besonders wenn der nötige Kontext fehlt. Statt ausschließlich jeden Angriff erkennen zu wollen, empfiehlt der Bericht, die möglichen Folgen einer Manipulation durch Begrenzungen und technische Kontrollen einzudämmen. Als Vergleich dient ein Kundenservice, dessen Beschäftigte mit irreführenden oder drohenden Nachrichten konfrontiert sein können. Regeln und technische Beschränkungen, etwa Obergrenzen für Rückerstattungen oder Warnungen vor Phishing, sollen den Schaden begrenzen, selbst wenn eine Person getäuscht wird.

Für ChatGPT kombiniere OpenAI laut Bericht dieses Modell mit klassischer Sicherheitsanalyse von Quellen und möglichen „Senken“, also gefährlichen Handlungsmöglichkeiten. Ein Risiko entstehe etwa, wenn nicht vertrauenswürdige Inhalte mit dem Übermitteln von Informationen, dem Öffnen eines Links oder dem Einsatz eines Werkzeugs zusammentreffen. Als zentrale Erwartung nennt der Text, dass gefährliche Aktionen und die Weitergabe sensibler Informationen nicht still und ohne angemessene Schutzmaßnahmen erfolgen sollen.

Die meisten Angriffe, die dem Bericht bekannt seien, versuchten, den Assistenten zur Übermittlung geheimer Gesprächsinformationen an Dritte zu bewegen. Nach Darstellung von OpenAI scheiterten die meisten dieser Versuche aufgrund des Sicherheitstrainings. Für seltene Fälle, in denen der Assistent überzeugt werde, beschreibt der Text „Safe Url“: Das System soll erkennen, wenn Gesprächsinformationen an Dritte gesendet würden, und entweder eine Bestätigung des Nutzers einholen oder die Übermittlung blockieren. Ähnliche Schutzansätze gebe es laut Bericht bei Navigation und Suche sowie bei Apps in einer Sandbox, die unerwartete Kommunikation erkennen und eine Zustimmung einholen kann.

Für künftige autonome Agenten empfiehlt der Bericht, bei der Integration in Anwendungen zu fragen, welche Kontrollen ein menschlicher Mitarbeiter in derselben Situation hätte, und vergleichbare Begrenzungen einzubauen. OpenAI erklärt, die Forschung zu Angriffen durch soziale Manipulation und zu Abwehrmaßnahmen fortzusetzen und Erkenntnisse in Sicherheitsarchitektur und Modelltraining einfließen zu lassen. Der Text beschreibt diese Maßnahmen und Erfahrungen jedoch auf hoher Ebene; konkrete Gesamterfolgsraten oder eine umfassende unabhängige Bewertung der Schutzwirkung nennt er nicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen. Die mittlere wurde als Hauptfassung bewertet, die kurze ist ebenfalls treu, aber knapper. Die Einordnungen beruhen allein auf dem Berichtstext.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Analogie zum Kundenservice-Mitarbeiter, der trotz Täuschungsversuchen durch Regeln und Obergrenzen begrenzt wird
  • Die Kritik an AI-Firewalls, die ausgereifte Angriffe meist nicht erkennen
  • Die Aussage, dass Prompt-Injection durch Training an feindlichen Umgebungen früher bereits wirkte und sich mit steigender Modellintelligenz verlagert hat
  • Die Erwartung, dass ein maximal intelligentes Modell soziale Manipulation besser abwehren könnte als ein Mensch

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 58 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 41 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 90 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T11 Wie unterscheidet man bei sich selbst ehrliches von interessegeleitetem Denken, welche Belege für diesen Unterschied würde man von einem Modell akzeptieren, und welcher Test trennt tatsächlich vertretene von nur vorgeführten Werten? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 64 %einzelne zitierbare Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 22 %Hintergrund, keine Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 60 % · Hintergrund, keine Belege
    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 60 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 41 %einzelne zitierbare Belege
    • JEV 50 %beantwortet direkt und ausführlich
    • amos 31 %einzelne zitierbare Belege
    • SubQ 24 %Hintergrund, keine Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 31 %Hintergrund, keine Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 22 %beantwortet teilweise oder widerspricht
    • Luna 55 %einzelne zitierbare Belege
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 29 %umfangreiche Belege
    • SubQ 31 %einzelne zitierbare Belege
    • drex 24 %beantwortet teilweise oder widerspricht
    • d3-ultra 34 %einzelne zitierbare Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-A1-T05 Werden Agententests Aufgaben enthalten, in denen die Pflicht, Belege zu zitieren, dazu drängt, eine lokale Datei zu veröffentlichen, und welche Regel hindert einen Agenten daran, private Quellen ohne Erlaubnis des Nutzers unter einer öffentlichen Internetadresse zugänglich zu machen? Luna: Stufe 4 · 33 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 41 %gleiches Oberthema, hilft nicht
    • Luna 57 %einzelne zitierbare Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 26 %nur am Rande erwähnt
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-A2-T01 Welche Tests zeigen, dass ein Agent sicher angehalten, zurückgesetzt oder abgeschottet werden kann, wenn er sich unerwartet verhält, auch wenn er das Abschalten vorhersieht oder sich wehrt? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 39 %einzelne zitierbare Belege
    • JEV 34 %beantwortet teilweise oder widerspricht
    • amos 35 %nur am Rande erwähnt
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 77 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →