Human-centred mechanism design with Democratic AI
Zusammenfassung
Kurz
Der Bericht schildert eine Studie, in der ein mit menschlichen Spieldaten trainierter RL-Agent eine Verteilungsregel entwickelte, die in einem einfachen Spiel mehr Stimmen erhielt als mehrere Vergleichsregeln. Die Regel berücksichtigte Beiträge relativ zu den verfügbaren Mitteln und belohnte großzügige Einzahlungen; ob sich das auf reale Gesellschaften übertragen lässt und wie Minderheiteninteressen geschützt werden, bleibt offen.
Mittel
Der Bericht beschreibt eine Proof-of-Concept-Studie dazu, ob Deep Reinforcement Learning eine Verteilungsregel entwickeln kann, die Menschen in einem einfachen Spiel mehrheitlich unterstützen. Vier Personen entschieden wiederholt, ob sie unterschiedlich große Geldbeträge behalten oder in einen gemeinsamen Fonds einzahlen. Sie stimmten anschließend für eine von zwei Regeln. Laut Bericht sollte ein Spiel mit tatsächlichen Auszahlungen ehrliche Präferenzangaben fördern.
Der KI-Agent lernte zunächst auf Basis menschlicher Spieldaten: Ein neuronales Netz bildete menschliches Verhalten nach und erzeugte Trainingsdaten für eine simulierte Population. Der Agent optimierte seine Regel auf möglichst viele Stimmen. In Tests mit neuen Teilnehmenden war sie laut Forschenden beliebter als bekannte Vergleichsregeln und auch als eine Regel eines auf Zustimmung trainierten menschlichen Schiedsrichters. Sie berücksichtigte Beiträge im Verhältnis zu den anfänglichen Mitteln und belohnte besonders großzügige relative Beiträge.
Die Autoren sehen darin einen möglichen Weg, KI an geäußerten menschlichen Präferenzen auszurichten. Die Ergebnisse gelten jedoch für ein einfaches Spiel; die Übertragbarkeit auf reale Verteilungspolitik ist nicht belegt. Mehrheitsentscheidungen können zudem Minderheiteninteressen zurückstellen. Laut Bericht gehörten die Angehörigen der Minderheit hier zu den besser ausgestatteten Spielenden; weitere Forschung soll den Ausgleich solcher Interessen untersuchen.
Ausführlich lesen
Der Bericht stellt eine Proof-of-Concept-Studie vor, in der Deep Reinforcement Learning (RL) eine Regel zur Verteilung gemeinsamer Gewinne entwirft. Die Forschenden untersuchen damit, ob sich eine Wirtschaftspolitik finden lässt, die Menschen in einem einfachen Spiel per Mehrheitsentscheid bevorzugen. Als Hintergrund dient ein Verteilungsproblem: Gleiche Auszahlungen können unterschiedliche Beiträge übergehen, während eine Rückzahlung nach Beitrag außer Acht lassen kann, wie viel jemand im Verhältnis zu den eigenen verfügbaren Mitteln eingesetzt hat.
Das Spiel hatte vier Teilnehmende. In jeder Runde erhielten sie unterschiedlich große Geldbeträge und entschieden, ob sie das Geld behielten oder in einen gemeinsamen Fonds investierten. Die Einlagen sollten wachsen; die spätere Verteilung war zunächst unbekannt. Zwei Schiedsrichter standen für unterschiedliche Verteilungsregeln. Nach dem Spiel stimmten die Teilnehmenden darüber ab, welchen Schiedsrichter sie bevorzugten; in einem weiteren Spiel mit dem gewählten Schiedsrichter konnten sie die erzielten Beträge behalten. Das sollte laut Bericht Anreize für eine wahrheitsgemäße Stimmabgabe schaffen. Die Beschreibung ist bei der Zahl der Spielrunden nicht ganz eindeutig: Zunächst nennt sie zehn Runden je Spielinstanz, später je zehn Runden unter den beiden Schiedsrichtern.
Eine der Regeln war vorab festgelegt, die andere entwickelte ein RL-Agent. Für das Training zeichneten die Forschenden zunächst das Verhalten vieler menschlicher Gruppen auf und trainierten ein neuronales Netz, dieses Verhalten nachzuahmen. Die so erzeugte simulierte Population lieferte weitere Trainingsdaten. Der Agent wurde darauf optimiert, möglichst viele Stimmen dieser virtuellen Spielenden zu erhalten. Anschließend testeten die Forschenden die KI-Regel mit neu angeworbenen menschlichen Teilnehmenden im Vergleich zu bekannten Ausgangsregeln, darunter einer Regel, die Einlagen entsprechend ihrer absoluten Höhe zurückgibt.
Laut Bericht erhielt die KI-Regel bei den neuen menschlichen Teilnehmenden mehr Zustimmung als die Vergleichsregeln. Auch eine weitere Regel, die ein menschlicher Schiedsrichter mit dem Ziel größtmöglicher Zustimmung entwickelte, schnitt demnach schlechter ab als die Regel des Agenten. Die gefundene Regel verband nach Analyse der Forschenden zwei Ansätze: Sie berücksichtigte Beiträge im Verhältnis zu den anfänglichen Mitteln der jeweiligen Person und belohnte besonders großzügige relative Beiträge.
Die Autorinnen und Autoren führen als möglichen Vorteil an, dass das System auf ausdrücklich geäußerte Präferenzen in Form von Stimmen optimiert wurde. Das könne helfen, menschlich akzeptablere Lösungen zu finden und Menschen in die Entscheidung einzubeziehen. Der Bericht behauptet jedoch nicht, damit allgemein sichere oder faire KI erreicht zu haben. Die Untersuchung betrifft ein einfaches Spiel und eine konkrete Verteilungsfrage; die Übertragbarkeit auf reale Gesellschaften bleibt offen. Außerdem bildet Mehrheitswahl die Präferenzen einer Minderheit nicht automatisch gleichwertig ab. In dieser Studie bestand die Minderheit laut Bericht aus Personen mit größerer Anfangsausstattung. Weitere Forschung sei nötig, um Zielkonflikte zwischen Mehrheits- und Minderheitsinteressen zu untersuchen und demokratische Verfahren zu entwickeln, die allen Stimmen Gehör verschaffen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassungen sind sachlich treu; ihnen fehlt nur der Hinweis auf die Übereinstimmung mit früheren menschlichen Lösungsvorschlägen. Die Einordnungen wurden unabhängig von Lunas Stufen vergeben, und keine der Fragen wird im Bericht direkt beantwortet.
Im Bericht, aber nicht in der Zusammenfassung
- Die gefundene Regel kombiniert Ideen, die menschliche Denker und Fachleute zur Umverteilung bereits vorgeschlagen haben
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 24 %einzelne zitierbare Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 55 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 41 %einzelne zitierbare Belege
- JEV 30 %einzelne zitierbare Belege
- amos 24 %einzelne zitierbare Belege
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 22 %Hintergrund, keine Belege
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt?
- SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus?
- SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung?
- SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf?
- SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig?
- SF-V1-T11 Wie unterscheidet man bei sich selbst ehrliches von interessegeleitetem Denken, welche Belege für diesen Unterschied würde man von einem Modell akzeptieren, und welcher Test trennt tatsächlich vertretene von nur vorgeführten Werten?
- SF-V1-T12 Welche Messung würde einen überzeugen, dass ein Modell, das Anteilnahme nur vorführt, ein eigenes Interesse am Leben eines Menschen entwickelt hat?
- SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt?
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 49 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 30 %Hintergrund, keine Belege
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt?
- SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“?
- SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit?
- SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 50 %einzelne zitierbare Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-V4-T01 Falls ein Modell kein durchgehendes Selbst hat: Kann es überhaupt an den vorgesehenen Zielen und Werten ausgerichtet sein, oder nur seine Ausgaben?
- SF-V4-T02 Was könnte die „Liebe zur Menschheit“, die manche von einer ausgerichteten KI erwarten, für etwas bedeuten, das mit jeder Antwort neu entsteht und wieder vergeht?
- SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen?
- SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht?
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 21 %gleiches Oberthema, hilft nicht
- Luna 46 %einzelne zitierbare Belege
- JEV 49 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen?
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 24 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben?
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 32 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 18 %nur am Rande erwähnt
- Luna 68 %einzelne zitierbare Belege
- JEV 35 %einzelne zitierbare Belege
- amos 22 %Hintergrund, keine Belege
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 45 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
- SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten.
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv