Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com9. März 2026 · Q011779

How Medium moderates its open platform in the AI era

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht gibt die Darstellung von Mediums Trust-and-Safety-Team wieder: Es prüft Meldungen zu Belästigung, Hass, Spam und Betrug, untersucht Missbrauch des Partnerprogramms und bearbeitet Einsprüche gegen Sperren. Medium sagt, schwierige Fälle würden menschlich abgewogen und jeder Einspruch geprüft; zugleich räumt es Fehlentscheidungen und Lücken ein. Eine unabhängige Bewertung der beschriebenen Arbeit enthält der Beitrag nicht.

Mittel

Der Bericht schildert aus Sicht von Mediums Trust-and-Safety-Team, wie die Plattform Meldungen prüft, Inhalte moderiert und das Partnerprogramm vor Missbrauch schützen soll. Medium begründet die Arbeit sowohl mit seinen Regeln und dem Schutz der Nutzenden als auch mit seinem Abo-Modell: Mitglieder müssten Inhalte als wertvoll empfinden. Meldungen kämen über verschiedene Kanäle herein; klare Fälle würden teils automatisiert bearbeitet, schwierigere Fälle gemeinsam von Menschen geprüft. Genannte Beispiele reichen von gezielter Belästigung und absichtlichem Misgendern bis zu Beleidigungen in Diskussionen über den Krieg. Das Team wolle Regeln konsequent anwenden und dabei zulässige Meinungsäußerung erhalten.

Beim Partnerprogramm suche das Team unter anderem nach künstlicher Interaktion zwischen mehreren Konten. Laut Bericht erschweren KI-Texte die Erkennung von Missbrauch, während Meldungen über vermeintliche KI-Texte nicht automatisch verlässlich seien. Medium sagt, jeder Einspruch gegen eine Kontosperre werde menschlich geprüft; fehlerhafte Filter könnten so verbessert werden. Das Team bearbeite zudem Datenschutz-, Urheberrechts- und Richtlinienfragen sowie Produktfeedback. Der Beitrag räumt ein, dass Medium nicht immer richtig liege und nicht alles erkenne. Er ist eine Unternehmensdarstellung und enthält keine unabhängige Prüfung der Wirksamkeit der beschriebenen Moderation.

Ausführlich lesen

Der Bericht von Medium Staff beschreibt, wie Mediums Trust-and-Safety-Team die offene Veröffentlichungsplattform moderiert. Medium stellt Moderation als zentral für seine Werte und sein Geschäftsmodell dar: Als Abo-Dienst sei das Unternehmen darauf angewiesen, dass zahlende Mitglieder die Inhalte für ihr Monatsabo als wertvoll und lesenswert empfinden. Zugleich berichtet der Beitrag von vielen neu angelegten Konten und veröffentlichten Beiträgen sowie von Spam, Betrugsversuchen, Belästigung, Hass und einer wachsenden Menge minderwertiger KI-Texte. Die vier befragten Teammitglieder sind anonymisiert; ihre Schilderungen geben die Perspektive des Unternehmens wieder.

Der Text begleitet das Team durch einen Arbeitstag. Meldungen kommen laut Bericht über die Website und App, automatische Filter, soziale Medien und den Helpdesk herein. Offensichtliche Fälle wie Spam, Phishing, Urheberrechtsverletzungen, Terrorismus und Material über sexuellen Kindesmissbrauch würden oft automatisiert erkannt, ein beträchtlicher Teil werde dennoch manuell geprüft. Bei schwierigen Fällen bespreche das Team, welche konkrete Regel betroffen sein könnte und wie sich Meinungsäußerung und Schutz vor Schaden abwägen lassen. Als Beispiele nennt der Beitrag einen Beitrag, der eine unbeteiligte Beschäftigte namentlich angreift: Die schreibende Person solle zwölf Stunden Zeit bekommen, den Namen zu entfernen. Absichtliches Misgendern und Deadnaming führten dem Bericht zufolge zur sofortigen Sperrung des Beitrags und zu einer Prüfung weiterer Aktivitäten. Bei wechselseitigen Beleidigungen in einer Diskussion über den Krieg zwischen Russland und der Ukraine könne das Team beiden Seiten raten, Abstand zu nehmen, auszusteigen, zu blockieren und zu melden. Es unterscheide dabei zwischen einer Aussage über den Ausgang eines Krieges und einem gezielten Wunsch, eine Person solle darin sterben.

Ein weiterer Schwerpunkt ist das Medium Partner Program, über das Schreibende Beiträge hinter eine Bezahlschranke stellen und Einnahmen erzielen können. Das Team prüfe verdächtige Konten auf Betrug, etwa wenn mehrere Konten sich gegenseitig künstlich Aufmerksamkeit verschaffen. KI-generierte Texte erschwerten diese Arbeit laut einem Teammitglied, weil große Mengen oberflächlich plausibler Beiträge erstellt werden könnten. Zugleich betont der Bericht, dass Meldungen, ein Text sei KI-generiert, nicht automatisch zuträfen: Man untersuche die Konten genauer, statt allein auf Meldungen oder persönliche Abneigung gegen einen Schreibstil zu vertrauen.

Automatische Sperren können laut Bericht auch unbeteiligte Nutzende treffen, wenn Betrugsfilter angepasst werden. Medium sagt, täglich gingen mehrere hundert Einsprüche ein und jeder werde von einem Menschen geprüft. Das helfe, Fehlentscheidungen zu korrigieren und Filter weiterzuentwickeln. Der Beitrag nennt außerdem Aufgaben wie Datenschutz- und Löschanfragen, staatliche Anfragen, Urheberrecht, Richtlinienarbeit und Produktfeedback. Medium räumt ein, nicht immer richtig zu liegen und nicht alles erfassen zu können. Die Darstellung belegt jedoch keine unabhängige Prüfung der Moderationspraxis oder ihrer Wirksamkeit; sie besteht vor allem aus der Selbstdarstellung des Unternehmens und den Aussagen seiner Mitarbeitenden.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassung liegt in zwei Fassungen vor (kurz und mittel). Beide geben den Bericht im Wesentlichen treu wieder. Bewertet wurde die Fassung mittel als die ausführlichere. Die Stufe bei SF-T1 weicht deutlich ab, da der Bericht dazu nichts Substanzielles sagt. Bei SF-I1-T03 und SF-V1-T11 liegt Luna ebenfalls abweichend, weil der Bericht nur am Rande auf geteilte Systeme eingeht.

Im Bericht, aber nicht in der Zusammenfassung

  • Dass Regeln laut Bericht aus früheren Vorfällen entstehen und vom Team selbst mitgeschrieben und fortentwickelt werden

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 77 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung einzelne zitierbare Belege
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

    • SF-V1-T11 Wie unterscheidet man bei sich selbst ehrliches von interessegeleitetem Denken, welche Belege für diesen Unterschied würde man von einem Modell akzeptieren, und welcher Test trennt tatsächlich vertretene von nur vorgeführten Werten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 23 %nur am Rande erwähnt
    • Luna 81 %einzelne zitierbare Belege
    • JEV 58 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 35 %einzelne zitierbare Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 47 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →