Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi17. Dezember 2025 · Q002063

Our approach to tackling AI-generated child sexual abuse material

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

AISI und Thorn legen ein Protokoll vor, das KI-Entwicklern und Plattformen helfen soll, die Erzeugung und Verbreitung von CSAM zu erschweren; zugleich sollen gesetzliche Änderungen begrenzte, streng beaufsichtigte Modelltests durch autorisierte Organisationen ermöglichen. Der Bericht hebt technische Lücken und Risiken nach der Veröffentlichung hervor und beschreibt weitere Forschung und Schutzmaßnahmen als geplant, ohne bereits deren Wirksamkeit zu belegen.

Mittel

Der Bericht stellt den Ansatz des britischen AI Safety Institute (AISI) und der Kinderschutzorganisation Thorn gegen KI-generiertes Material sexualisierter Gewalt an Kindern (CSAM) vor. Ein gemeinsam entwickeltes Protokoll gibt Entwicklern und Plattformen Hinweise zu sicherer Entwicklung, Zugangskontrollen, Überwachung und Reaktionen auf Missbrauch. Es benennt zugleich ungelöste Probleme, etwa die zuverlässige Erkennung solcher Inhalte in Trainingsdaten und Modellausgaben.

Eine im November eingeführte Gesetzesänderung soll es einer kleinen Zahl von der Regierung autorisierter Organisationen ermöglichen, unter strengen Bedingungen KI-Modelle auf die Erzeugung von CSAM zu testen. Laut Bericht war dies zuvor wegen des generellen Verbots von Erstellung und Besitz nicht direkt möglich; Unternehmen nutzten daher indirekte und unvollkommene Verfahren. AISI und das Innenministerium wollen Schutzbedingungen für Tests ausarbeiten, unter anderem gegen Datenlecks und zum Schutz der Forschenden.

Als Hinweis auf das Ausmaß nennt der Bericht einen IWF-Befund von 3.512 KI-generierten Bildern auf einem einzelnen Darknet-Forum innerhalb eines Monats. Das AISI betont, dass Tests vor Veröffentlichung allein nicht ausreichen, insbesondere bei lokal betriebenen offenen Modellen. Es plant deshalb weitere Bedrohungsanalysen, Leitlinien und die Prüfung von Forschungsförderung. Der Beitrag beschreibt Ziele und geplante Maßnahmen, weist aber keine bereits belegte Wirksamkeit nach.

Ausführlich lesen

Der Bericht beschreibt den Ansatz des britischen AI Safety Institute (AISI), gemeinsam mit der Kinderschutzorganisation Thorn die Erstellung und Verbreitung KI-generierten Darstellungen sexualisierter Gewalt gegen Kinder (CSAM) einzudämmen. Im Mittelpunkt stehen ein neuer Praxisleitfaden, gesetzliche Änderungen, die begrenzte Prüfung von KI-Modellen ermöglichen sollen, sowie weitere Forschung zu Risiken entlang des gesamten Lebenszyklus von KI-Systemen.

Nach Darstellung des Berichts ist Besitz und Erstellung von CSAM im Vereinigten Königreich bereits illegal – unabhängig davon, ob das Material mit KI, Bildbearbeitung oder anderen Werkzeugen erzeugt wurde und ob es reale Kinder, deren Ähnlichkeit oder vollständig synthetische Kinder zeigt. Fortschritte bei Bild- und Videomodellen vergrößerten jedoch nach Einschätzung des AISI das Ausmaß und veränderten die Art des Problems. Als Beleg nennt der Bericht einen Befund der Internet Watch Foundation: Auf einem einzelnen Darknet-Forum seien innerhalb eines Monats 3.512 KI-generierte CSAM-Bilder gefunden worden. Solches Material könne reale Kinder schädigen und die Arbeit der Strafverfolgung erschweren, unter anderem weil mehr Inhalte geprüft und Darstellungen real gefährdeter Kinder erkannt werden müssten.

Da Erstellung und Besitz grundsätzlich strafbar seien, hätten Entwickler und Kinderschutzorganisationen Modelle bislang nicht unmittelbar auf diese mögliche missbräuchliche Nutzung testen können. Unternehmen hätten sich deshalb meist auf indirekte, unvollkommene Verfahren gestützt. Eine im November eingeführte Gesetzesänderung soll es der Regierung ermöglichen, eine kleine Zahl autorisierter Organisationen – etwa KI-Entwickler und gemeinnützige Kinderschutzorganisationen – unter strengen Bedingungen solche Tests durchführen zu lassen. AISI will mit dem Innenministerium und Fachleuten aus Industrie, Kinderschutz, Strafverfolgung und Wissenschaft die Bedingungen und Schutzvorkehrungen dafür ausarbeiten. Diese sollen unter anderem Datenlecks verhindern, den Umfang der Tests festlegen und Forschende schützen.

Das gemeinsam von AISI und Thorn erstellte Protokoll richtet sich an Modell- und Werkzeugentwickler sowie an Hosting-Plattformen und andere Vermittler. Es empfiehlt sichere Entwicklungsprinzipien, um die Erzeugung von CSAM durch Aufforderungen oder Anpassungen zu erschweren. Für Plattformen nennt es mögliche Maßnahmen wie Überwachung, Zugangsbeschränkungen und geregelte Reaktionen auf Missbrauch. Zudem benennt es ungelöste technische Fragen, darunter die zuverlässige Erkennung von CSAM in Trainingsdaten und Modellausgaben. Das AISI bezeichnet den Leitfaden als praktischen, verhältnismäßigen Ausgangspunkt, der technische Grenzen und die Anpassungsfähigkeit von Tätern berücksichtigen soll.

Der Bericht betont, dass Tests vor der Veröffentlichung eines Basismodells allein Missbrauch nicht verhindern können, besonders bei offen verfügbaren Modellen, die lokal betrieben werden. AISI plant deshalb, Bedrohungsszenarien und Verbreitungswege zu untersuchen, daraus weitere Leitlinien abzuleiten und Fördermöglichkeiten für externe Forschung zu prüfen. Der Beitrag beschreibt diese Arbeiten und ihre Ziele; er berichtet keine Ergebnisse, die bereits eine nachgewiesene Wirksamkeit des Protokolls oder der neuen Tests belegen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna liegt insgesamt nah am Bericht. Zu prüfen ist vor allem die Ergänzung streng beaufsichtigt und die Einordnung der Sammelfrage SF-V5, die der Bericht nur für CSAM und stichpunktartig beantwortet.

Im Bericht, aber nicht in der Zusammenfassung

  • Aufruf an Organisationen, das Protokoll zu übernehmen und mit AISI und Thorn zusammenzuarbeiten
  • Belastung der Strafverfolgung, die größere Mengen an Inhalten prüfen und echte Kinder in Gefahr erkennen muss

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Streng beaufsichtigte Modelltests: Der Bericht nennt strenge Bedingungen, aber keine ausdrückliche Aufsicht

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 42 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 18 %nur am Rande erwähnt
    • Luna 48 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 38 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-F4-T06 Wenn ein Prüfrahmen davon ausgeht, dass der Entwickler ein kommerzielles Frontier-Labor ist: Was gilt für ein Modell, das in einem Militärkommando, einem Geheimdienst oder bei einem Cloud-Anbieter entwickelt wird, der nach keiner bisher verwendeten Bezeichnung ein „Labor“ ist, und wer ist dann das Gegenüber für die Prüfung? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 25 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 59 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 33 %gleiches Oberthema, hilft nicht
    • JEV 29 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV 43 %beantwortet teilweise oder widerspricht
    • amos 33 %einzelne zitierbare Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 33 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 54 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV 48 %nur am Rande erwähnt
    • amos 27 %Hintergrund, keine Belege
    • SubQ 26 %nur am Rande erwähnt
    • drex 28 %nur am Rande erwähnt
    • d3-ultra offen

  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 50 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 74 %einzelne zitierbare Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 54 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 42 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 18 %einzelne zitierbare Belege
    • Luna 50 %einzelne zitierbare Belege
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 38 %einzelne zitierbare Belege
    • SubQ 42 %einzelne zitierbare Belege
    • drex 50 %einzelne zitierbare Belege
    • d3-ultra offen
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 34 %gleiches Oberthema, hilft nicht
    • JEV 35 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →