Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
oecd18. Mai 2025 · Q003853

Transparency Mechanisms for Social Media Recommender Algorithms: From Proposals to Action

oecd.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Quelltext ist ein Auszug über ein Projekt, das Transparenz bei Empfehlungsalgorithmen schaffen und mögliche Risiken im Zusammenhang mit terroristischen und gewalttätig-extremistischen Inhalten untersuchen will. Er erwähnt eine angekündigte Pilotinitiative mit den USA, Neuseeland, Twitter und Microsoft sowie Datenschutztechnologien von OpenMined; Ergebnisse der Erprobung enthält der Auszug nicht.

Mittel

Der bereitgestellte Quelltext ist ein Auszug. Er führt ein Projekt zu Transparenz bei Empfehlungsalgorithmen sozialer Medien ein und kündigt an, dass der vollständige Bericht die Gespräche rund um eine Pilotinitiative behandeln werde.

Die Verfassenden beschreiben Empfehlungssysteme als KI, die persönliche Inhaltsfeeds anhand bisheriger Interaktionen ordnet und auswählt. Sie äußern die Sorge, dass solche Systeme Nutzende zu schädlichen Inhalten führen und möglicherweise politische Meinungen beeinflussen könnten. Zugleich gebe es bislang nur wenige öffentliche Informationen über die Verbreitung und Wirkung der Inhalte.

Das Projekt untersuchte nach eigener Darstellung Methoden zur Erforschung dieser Wirkungen und hielt unternehmensinterne Verfahren für am besten geeignet. Es schlug deshalb Transparenzmechanismen vor, mit denen solche Verfahren für Fragen des öffentlichen Interesses genutzt werden könnten. Der Schwerpunkt lag auf terroristischen und gewalttätig-extremistischen Inhalten (TVEC). Eine vorgeschlagene Untersuchung sollte Erkenntnisse liefern und dabei Nutzerrechte sowie das geistige Eigentum der Unternehmen schützen.

Der Auszug berichtet von einer angekündigten Pilotinitiative mit den USA, Neuseeland, Twitter und Microsoft. Dabei sollten von OpenMined entwickelte Technologien zum Schutz der Privatsphäre erprobt werden. Durchführung und Ergebnisse des Piloten sind im Auszug nicht enthalten.

Ausführlich lesen

Der bereitgestellte Quelltext ist nur ein Auszug: Er enthält eine Einführung in ein Projekt zu Transparenzmechanismen für Empfehlungsalgorithmen sozialer Medien und kündigt an, dass der vollständige Bericht die Gespräche im Vorfeld einer Pilotinitiative zusammenfassen werde. Ergebnisse dieser Gespräche oder der Pilotierung sind im Auszug nicht näher dargestellt.

Die Autorinnen und Autoren beschreiben Empfehlungssysteme als KI-Systeme, die personalisierte Inhaltsfeeds zusammenstellen. Mithilfe maschinellen Lernens würden sie Inhalte danach auswählen und ordnen, womit Nutzerinnen und Nutzer zuvor interagiert haben. Die Systeme wirkten damit nach ihrer Darstellung wie personalisierte Zeitungsredaktionen und gehörten zu den verbreitetsten und einflussreichsten KI-Anwendungen.

Ausgangspunkt des Projekts ist die Sorge, dass solche Systeme Menschen zu schädlichen Inhalten führen könnten. Der Auszug ordnet diese Sorge sowohl technisch ein – mit Blick auf die Lernverfahren der Systeme – als auch gesellschaftlich und politisch, weil mögliche Wirkungen auf Nutzerinnen und Nutzer politische Meinungsströmungen beeinflussen könnten. Zugleich betonen die Verfassenden, dass bislang nur wenige öffentliche Informationen darüber vorlägen, wie Empfehlungsalgorithmen Inhalte verbreiten und welche Auswirkungen sie auf das Verhalten der Nutzenden haben.

In einer ersten Projektphase untersuchte das Team nach eigener Darstellung mögliche Methoden, um solche Auswirkungen zu erforschen. Es kam zu dem Schluss, dass die für diese Fragen am besten geeigneten Methoden jene seien, die Unternehmen intern selbst einsetzen. Da Außenstehende darauf keinen Zugriff hätten, schlug das Projekt Transparenzmechanismen vor, mit denen diese internen Methoden für Untersuchungen im öffentlichen Interesse genutzt werden könnten. Als Schwerpunkt wählte es terroristische und gewalttätig-extremistische Inhalte (TVEC), da diese bereits Gegenstand mehrerer Initiativen mit Unternehmensbeteiligung seien, darunter GIFCT und der Christchurch Call.

Vorgesehen war eine Untersuchung zur Tatsachenfeststellung. Sie sollte Informationen über mögliche Wirkungen von Empfehlungssystemen in diesem Bereich liefern und dabei laut Projektvorschlag sowohl die Rechte der Plattformnutzenden als auch das geistige Eigentum der Unternehmen schützen.

Im darauffolgenden Jahr verfolgte das Projekt nach eigener Darstellung das praktische Ziel, eine solche Untersuchung bei mindestens einem sozialen Netzwerk zu erproben. Dazu habe es Gespräche mit mehreren Unternehmen geführt, teils über Vermittlung von Regierungen, und an internationalen TVEC-Initiativen mitgewirkt. Der Auszug berichtet schließlich von einer beim jüngsten Christchurch-Call-Gipfel angekündigten Pilotinitiative: Die USA und Neuseeland sowie Twitter und Microsoft sollten beteiligt sein; im Zentrum stehe die Erprobung von Technologien zum Schutz der Privatsphäre, die von OpenMined entwickelt wurden. Ob und mit welchen Ergebnissen der Pilot durchgeführt wurde, geht aus dem vorliegenden Auszug nicht hervor.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV offen
    • amos 26 %einzelne zitierbare Belege
    • SubQ 24 %einzelne zitierbare Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 27 %einzelne zitierbare Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV offen
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %einzelne zitierbare Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra 34 %gleiches Oberthema, hilft nicht

  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV offen
    • amos 23 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV offen
    • amos 26 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV offen
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →