Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai11. Juni 2026 · Q001064

How AI Companies are Handling Suicide and Self-Harm Today

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist nur ein Auszug aus einer PAI-Ressourcenseite. Er berichtet von verschiedenen Schutzmaßnahmen der KI-Unternehmen und nennt ungelöste Probleme bei Risikoerkennung, passenden Antworten, Datenschutz und Übergaben an reale Hilfe; eine Bewertung der Wirksamkeit oder die angekündigten Detailvergleiche enthält der Auszug nicht.

Mittel

Der vorliegende Text ist ein Auszug aus einer PAI-Ressourcenseite, nicht der vollständige Bericht. Er beschreibt, wie KI-Unternehmen auf Suizid- und Selbstverletzungsäußerungen reagieren. Die Bestandsaufnahme stützt sich laut Seite auf Beiträge von Unternehmensvertretern bei einem Workshop im März 2026 und auf eigene Analysen von PAI. Unternehmen nutzten demnach unter anderem Krisen-Hotline-Verweise und Grounding-Techniken; bei langen Gesprächen, Datenschutz und Altersprüfung gebe es weiterhin Schwierigkeiten.

Als Herausforderungen nennt der Auszug die Erkennung und Einschätzung von Risiken über Kontexte und Kulturen hinweg. Die Vorhersage tatsächlicher Suizide oder Selbstverletzungen sei begrenzt und datenschutzsensibel. Zudem sei es schwierig, unterstützend zu reagieren, ohne schädliche Gedanken zu bestärken, und Betroffene wirksam an reale Hilfe zu übergeben. Auch die Anwendung klinischer Leitlinien, widersprüchliche Vorschriften und die Bewertung von Ergebnissen blieben offene Fragen. PAI sieht Bedarf an gemeinsamer Infrastruktur. Die angekündigte Einteilung in sechs Interventionstypen und der Unternehmensvergleich sind im Auszug nicht ausgeführt.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus einer Ressourcenseite der Partnership on AI, nicht der vollständige Bericht. Er behandelt, wie KI-Unternehmen auf Äußerungen zu Suizid und Selbstverletzung reagieren. Grundlage der beschriebenen Bestandsaufnahme sind laut Seite Beiträge von KI-Vertreterinnen und -Vertretern bei einem PAI-Workshop im März 2026 sowie eigene Analysen der Organisation. An dem Workshop nahmen dem Text zufolge außerdem Fachleute aus psychischer Gesundheit, Klinikerinnen und Kliniker, Forschende sowie Menschen mit eigener Erfahrung teil.

Die Seite berichtet, dass große KI-Unternehmen bereits verschiedene Schutzmaßnahmen einsetzen. Genannt werden Verweise auf Krisen-Hotlines und therapeutisch angelehnte Techniken wie Grounding. Zugleich stellt der Auszug Schwierigkeiten bei längeren Gesprächsverläufen, beim Datenschutz und bei der Altersprüfung fest. Er kündigt eine Einteilung in sechs verbreitete Arten von Interventionen sowie einen Vergleich von Richtlinien einzelner Unternehmen an, enthält diese Details aber nicht.

Als zentrale Herausforderungen führt der Text die Erkennung von Suizid- und Selbstverletzungsrisiken in unterschiedlichen Kontexten und Kulturen sowie deren Einschätzung an. Die Vorhersagekraft solcher Einschätzungen für tatsächliche Suizide oder Selbstverletzungen sei gering und werde zudem durch Datenschutzrisiken begrenzt. Weitere offene Fragen beträfen den Umgang mit bestätigenden Antworten, die schädliche oder wahnhaft geprägte Gedanken verstärken könnten, und die Übergabe an reale Hilfsangebote, insbesondere wenn Betroffene lieber mit einer KI sprechen möchten. Auch die Übertragung klinischer Leitlinien auf KI, teils widersprüchliche oder nicht evidenzgestützte Vorschriften und die Bewertung wirksamer Ergebnisse werden als Probleme genannt.

PAI beschreibt das Feld als an einem Wendepunkt: Die Probleme seien ausreichend erkannt, koordinierte Strukturen für gemeinsames Handeln fehlten jedoch noch. Der Auszug skizziert Fragen und nächste Schritte, liefert aber weder die angekündigte vollständige Analyse noch konkrete Ergebnisse dazu, welche Maßnahmen wirksam sind.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 60 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 72 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 29 %nur am Rande erwähnt
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →