Article 50(2) AI Act: Marking AI Content with C2PA
Zusammenfassung
Kurz
Der Bericht beschreibt die Pflichten aus Artikel 50 des EU AI Act: Anbieter generativer KI sollen Inhalte maschinenlesbar kennzeichnen; für ältere Systeme nennt er den 2. Dezember 2026 als Frist. Der Kodex sehe signierte Metadaten plus Wasserzeichen vor, während Betreiber bestimmte Inhalte zusätzlich sichtbar offenlegen müssten; der Beitrag empfiehlt Unternehmen, Werkzeuge, Zuständigkeiten und Nachweise zu prüfen.
Mittel
Der Bericht erklärt die Kennzeichnungspflicht aus Artikel 50 Absatz 2 des EU AI Act. Laut Autorin gilt sie seit dem 2. August 2026 für Anbieter generativer Systeme, die synthetisches Audio, Bilder, Videos oder Texte erzeugen. Für Systeme, die schon vorher auf dem Markt waren, gelte eine Frist bis 2. Dezember 2026. Der Beitrag betont, dass dies keine allgemeine Verlängerung sei und dass neue Systeme sowie Betreiberpflichten weiterhin ab August erfasst würden. Für intern entwickelte oder veränderte Systeme könne die Anbieterrolle unklar sein; der Bericht verweist auf eine Abweichung zwischen Gesetzeswortlaut und Leitlinien.
Der freiwillige Verhaltenskodex sehe laut Beitrag für viele Medienarten signierte Metadaten und ein zusätzliches, nicht wahrnehmbares Wasserzeichen vor. C2PA könne die Metadatenebene abdecken, aber allein nicht beide Ebenen erfüllen. Metadaten könnten beim Teilen oder Bearbeiten verloren gehen, und Provenienzdaten bewiesen nicht die Wahrheit eines Inhalts. Betreiber müssten Deepfakes und bestimmte KI-Texte für die Öffentlichkeit sichtbar oder hörbar kennzeichnen; eine technische Markierung genüge dafür nicht.
Unternehmen sollen ihre KI-Werkzeuge inventarisieren, die jeweilige Anbieterrolle bestimmen, Lieferantenauskünfte und Vertragszusagen einholen, Kennzeichnungen im eigenen Veröffentlichungsprozess testen und Nachweise dokumentieren. Der Beitrag weist auf rechtliche Auslegungsfragen hin und ist laut eigener Aussage keine Rechtsberatung.
Ausführlich lesen
Der Bericht von Sofia Reyes erläutert die Kennzeichnungspflicht aus Artikel 50 Absatz 2 des EU AI Act für Anbieter generativer KI-Systeme. Nach Darstellung des Beitrags müssen Ausgaben aus synthetischem Audio, Bild, Video und Text maschinenlesbar markiert und als künstlich erzeugt oder verändert erkennbar sein. Die Anforderungen gelten laut Bericht seit dem 2. August 2026. Für generative Systeme, die schon vor diesem Datum auf dem Markt waren, nennt er aufgrund einer späteren Ergänzung des Artikels 111 den 2. Dezember 2026 als Frist. Neue Systeme und Pflichten von Betreibern erhielten demnach keine entsprechende Verlängerung. Der Beitrag weist auf eine ungeklärte Formulierungsdifferenz zwischen „auf dem Markt bereitgestellt“ im Gesetz und „bereitgestellt oder in Betrieb genommen“ in den Leitlinien hin, insbesondere für intern eingesetzte Systeme.
Die Autorin stützt ihre Darstellung nach eigener Aussage auf den Gesetzestext, Kommissionsleitlinien und -fragen, den Verhaltenskodex sowie die C2PA-Spezifikation. Sie unterscheidet Anbieter von Betreibern: Wer ein fremdes, unverändertes Werkzeug nutzt, sei typischerweise Betreiber; wer ein System unter eigenem Namen entwickelt, wesentlich verändert oder intern in Betrieb nimmt, könne Anbieter sein. Die genaue Einordnung könne rechtliche Beratung erfordern. Betreiber hätten daneben eigene Offenlegungspflichten für Deepfakes und für KI-generierte Texte zu Themen von öffentlichem Interesse, sofern diese nicht menschlich geprüft oder redaktionell verantwortet wurden. Eine maschinenlesbare Markierung erfülle diese sichtbare oder hörbare Offenlegung laut Bericht nicht.
Der freiwillige Verhaltenskodex der Kommission setze für die erfassten Medienarten mindestens zwei maschinenlesbare Markierungsebenen voraus: signierte Metadaten und ein unauffälliges Wasserzeichen. Frei formulierter Text könne demnach allein ein Wasserzeichen tragen; sehr kurze Texte unter 200 Tokens seien ausgenommen. Quellcode und bestimmte kurze oder rein technische Ausgaben lägen laut den zitierten Leitlinien außerhalb des Anwendungsbereichs. Anbieter sollen außerdem Erkennungsmöglichkeiten bereitstellen; bis zum 2. Februar 2027 sei im Kodex eine Interoperabilitätslösung für Wasserzeichenerkennung vorgesehen. Die Kommission habe den Kodex als angemessen bewertet, doch seine Unterzeichnung sei freiwillig und kein abschließender Konformitätsnachweis.
C2PA wird als offener Standard für signierte Herkunfts- und Bearbeitungsinformationen beschrieben. Ein C2PA-Manifest könne die Metadatenebene abdecken, ersetze aber nicht das zusätzlich vorgesehene Wasserzeichen. Metadaten könnten beim Hochladen, erneuten Speichern oder durch Bildschirmfotos verloren gehen; Wasserzeichen wiederum müssten etwa gegen Komprimierung, Zuschnitt, Umwandlung oder erneute Aufnahme geprüft werden. Herkunftsnachweise belegten laut C2PA-Erklärung nicht, dass Inhalte wahr oder sachlich korrekt sind.
Für Unternehmen empfiehlt der Beitrag, sämtliche genutzten Generatoren zu erfassen, die Anbieterrolle zu klären, Lieferanten schriftlich zu Kennzeichnung und Erkennung zu befragen, Anforderungen vertraglich festzuhalten, die Markierungen im tatsächlichen Veröffentlichungsweg zu testen und Nachweise samt Regeln zur Betreiberkennzeichnung abzulegen. AccuroAI erklärt im Beitrag ausdrücklich, selbst keine Inhalte zu markieren oder zu erkennen; das Unternehmen bewirbt stattdessen seine Werkzeuge für Inventarisierung und Governance. Der Text bezeichnet sich als keine Rechtsberatung und begrenzt seine Aussagen zur Anbieterrolle durch den Hinweis auf anwaltliche Prüfung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung; die kurze ist ebenfalls im Kern treu, nennt aber die Detektionspflicht und die Ausnahmen ebenfalls nicht. Mehrere Einordnungen Lunas liegen deutlich höher als der Bericht hergibt, da dieser Kennzeichnung und Herkunftsnachweis behandelt, nicht Modellverhalten, Mitsprache oder Meinungsfreiheit.
Im Bericht, aber nicht in der Zusammenfassung
- Die Erkennbarkeit (Detection) ist neben der Kennzeichnung das zweite Pflichtelement von Art. 50(2); dazu gehören das kostenlose Detektionsangebot und die Interoperabilität bis 2. Februar 2027
- Ausnahmen: Quellcode, kurze Sequenzen wie Einzelwörter oder UI-Labels und Freitext unter 200 Tokens liegen außerhalb bzw. werden ausgenommen
- Der Beitrag betont, dass Anbieter- und Betreiberpflichten getrennt zu prüfen sind und Betreiber sich nicht auf die Anbieter-Wasserzeichen verlassen dürfen
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5-T05 Wenn ein öffentlicher Bericht über Fehlausrichtung Dritte nennt oder betrifft: Welche eng begrenzte Gelegenheit haben sie, vor der Veröffentlichung Tatsachenfehler zu berichtigen, und wer entscheidet im Streit, ohne ihnen ein Veto über die Veröffentlichung zu geben?
- SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden?
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 32 %Hintergrund, keine Belege
- JEV
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 51 %umfangreiche Belege
- JEV
- amos 22 %Hintergrund, keine Belege
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 19 %gleiches Oberthema, hilft nicht
- Luna 33 %Hintergrund, keine Belege
- JEV
- amos 22 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 39 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 23 %beantwortet teilweise oder widerspricht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 55 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 42 %einzelne zitierbare Belege
- JEV
- amos 21 %nur am Rande erwähnt
- SubQ 20 %gleiches Oberthema, hilft nicht
- drex 20 %einzelne zitierbare Belege
- d3-ultra 100 %kein Bezug
- SF-O3-T01 Wenn ein Sicherheitsbericht, eine Meldung an den Meldekanal, eine Modellbeschreibung (Modellkarte) oder ein Verzeichnis der Trainingsdaten veröffentlicht wird: Welche öffentlichen kryptografischen Belege (signierte Verzeichnisse, verkettete Prüfsummen, Register, die sich nur erweitern lassen) lassen Außenstehende prüfen, dass das Dokument seit der Veröffentlichung nicht verändert wurde, und wer betreibt die Infrastruktur dafür so, dass niemand diese Prüfungen allein widerrufen kann?
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 31 %gleiches Oberthema, hilft nicht
- Luna 42 %Hintergrund, keine Belege
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben?
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 24 %nur am Rande erwähnt
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 21 %Hintergrund, keine Belege
- JEV
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 79 %Hintergrund, keine Belege
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 27 %gleiches Oberthema, hilft nicht
- Luna 47 %einzelne zitierbare Belege
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 26 %umfangreiche Belege
- Luna 44 %umfangreiche Belege
- JEV
- amos 31 %umfangreiche Belege
- SubQ 58 %beantwortet direkt und ausführlich
- drex 60 %beantwortet direkt und ausführlich
- d3-ultra 62 %umfangreiche Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind?
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv