AI safety needs social scientists
Zusammenfassung
Kurz
Der Bericht fordert, Sozialwissenschaftler in die KI-Sicherheitsforschung einzubeziehen, weil menschliche Werturteile durch Denkbegrenzungen, Verzerrungen und die Art der Fragestellung beeinflusst sein können. Er schlägt Experimente vor, in denen Menschen Rollen übernehmen, die später KI-Systeme ausfüllen sollen, berichtet aber noch keine Ergebnisse und belegt keine Übertragbarkeit auf KI.
Mittel
Der Bericht argumentiert, dass langfristige KI-Sicherheitsforschung Sozialwissenschaftlerinnen und Sozialwissenschaftler braucht, um Verfahren zur Ausrichtung von KI an menschlichen Werten mit echten Menschen zu untersuchen. OpenAI beschreibt einen Ansatz, bei dem menschliche Präferenzen erhoben, zum Training von Modellen genutzt und anschließend zur Optimierung von KI-Systemen herangezogen werden. Zugleich könnten menschliche Antworten durch begrenztes Wissen, Denkfehler, Wertkonflikte und die Formulierung von Fragen beeinflusst werden. Der Bericht nennt als Beispiele unterschiedliche moralische Urteile je nach Fragewortlaut und inkonsistente Entscheidungen bei komplex dargestellten Glücksspielen.
Da unklar sei, wie Ansätze wie Verstärkung und Debatte mit Menschen in realistischen Situationen funktionieren, schlägt OpenAI rein menschliche Experimente vor. Menschen könnten etwa die Rollen zweier KI-Debattierender und eines menschlichen Beurteilers übernehmen. Erkenntnisse daraus sollen später auf maschinelle Systeme übertragen werden. Dafür seien sorgfältige Versuchsplanung und Expertise aus verschiedenen Sozialwissenschaften erforderlich. Der Bericht verweist auf einen Workshop an der Stanford University, regelmäßige interdisziplinäre Gespräche und OpenAIs damalige Pläne, Sozialwissenschaftler einzustellen. Er ist ein Forschungsaufruf: Ergebnisse der vorgeschlagenen Experimente oder Belege für die Übertragbarkeit auf KI-Systeme berichtet er nicht.
Ausführlich lesen
Der Bericht vertritt die These, dass langfristige Forschung zur KI-Sicherheit Sozialwissenschaftlerinnen und Sozialwissenschaftler einbeziehen sollte. Ihr Beitrag sei nötig, damit Verfahren zur Ausrichtung fortgeschrittener KI-Systeme an menschlichen Werten auch dann funktionieren, wenn echte Menschen beteiligt sind. OpenAI beschreibt als angestrebten Ansatz, Menschen nach ihren Wünschen zu fragen, maschinelle Lernmodelle anhand ihrer Antworten zu trainieren und KI-Systeme auf Grundlage dieser Modelle zu optimieren. Als Beispiele nennt der Bericht Präferenzlernen, Debattenverfahren und iterierte Verstärkung.
Ein zentrales Problem sieht der Bericht darin, dass menschliche Antworten auf Fragen zu Werten unzuverlässig sein können. Menschen verfügten über begrenztes Wissen und begrenzte Denkfähigkeiten; zudem könnten kognitive Verzerrungen und ethische Überzeugungen zu Antworten führen, die sich bei genauerer Überlegung als widersprüchlich erweisen. Auch die Formulierung einer Frage könne Urteile beeinflussen: Als Beispiele werden unterschiedliche Einschätzungen je nach Verwendung des Wortes „moralisch“ und inkonsistente Entscheidungen bei komplex dargestellten Glücksspielen angeführt. Der Bericht folgert daraus, dass verschiedene Befragungsmethoden unterschiedlich gute Antworten hervorbringen könnten.
Zwar gebe es Verfahren, die menschliches Nachdenken über Werte gezielt nutzen sollen, etwa Verstärkung und Debatte. Laut Bericht sei jedoch noch unklar, wie diese Ansätze mit realen Menschen in realistischen Situationen funktionieren. Probleme könnten in Gesprächen über komplexe, wertebezogene Fragen sichtbar werden, die heutige Methoden des maschinellen Lernens möglicherweise nicht zuverlässig aufdecken.
Als vorgeschlagenes Vorgehen beschreibt der Bericht Experimente, an denen ausschließlich Menschen teilnehmen. Sie sollen die Rollen übernehmen, die in den entsprechenden KI-Verfahren maschinelle Systeme innehätten. Beim Debattenansatz könnten beispielsweise zwei Menschen als Debattierende gegeneinander antreten, während eine weitere Person urteilt. Die Forschenden wollen aus solchen Versuchen Erkenntnisse gewinnen, die später auf maschinelle Debattierende übertragbar sein könnten. Diese Experimente würden laut Bericht selbst keine maschinellen Lernsysteme einsetzen und keine Vorkenntnisse in maschinellem Lernen voraussetzen. Erforderlich seien jedoch sorgfältige Versuchsplanung und ein fundiertes Verständnis menschlichen Denkens.
Deshalb plädiert OpenAI für die Zusammenarbeit mit Fachleuten aus experimenteller Psychologie, Kognitionswissenschaft, Wirtschaftswissenschaften, Politikwissenschaft und Sozialpsychologie sowie angrenzenden Gebieten wie Neurowissenschaften und Recht. Als ersten Schritt nennt der Bericht einen von OpenAI-Forschenden mitorganisierten Workshop am Center for Advanced Study in the Behavioral Sciences der Stanford University. Außerdem berichtet er von regelmäßigen Gesprächen über Sozialwissenschaft und KI-Ausrichtung sowie davon, dass OpenAI zu diesem Zeitpunkt eine eigene Forschungsarbeit aufbaue und Sozialwissenschaftlerinnen und Sozialwissenschaftler einstellen wolle.
Der Text ist vor allem ein Aufruf zur interdisziplinären Zusammenarbeit und eine Darstellung eines vorgeschlagenen Forschungsprogramms. Er beschreibt keine Ergebnisse der angekündigten Experimente und belegt nicht, dass die vorgeschlagenen Erkenntnisse tatsächlich auf KI-Systeme übertragbar sind. Seine Beispiele und Einschätzungen begründen die Motivation für die Forschung, ersetzen aber keine berichtete Prüfung ihrer Wirksamkeit.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna lieferte zwei Zusammenfassungen (kurz und mittel). Beide geben den Bericht inhaltlich treu wieder; die kurze lässt jedoch die Begründung und den Umfang der vorgeschlagenen Fachrichtungen stärker aus. Luna bewertete alle drei Fragen mit Stufe 3, der Bericht beantwortet sie aber nicht; er ist ein Forschungsaufruf zu menschlichen Experimenten. Die Anteilsangaben in Lunas Einordnung sind im Schema nicht vorgesehen und wurden nicht bewertet. Keine Teilfragen angegeben.
Im Bericht, aber nicht in der Zusammenfassung
- Die Begründung, dass für die rein menschlichen Experimente kein ML-Hintergrund nötig ist und die meisten KI-Sicherheitsforscher ML-fokussiert sind
- Die Aussage, dass aktuelle ML-Systeme für manche Probleme zu schwach sein könnten, um Fehler in wertebezogenen Diskussionen aufzudecken
- Die Liste der vorgeschlagenen Fachrichtungen, etwa Ökonomie, Politikwissenschaft, Neurowissenschaft und Recht
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 44 %gleiches Oberthema, hilft nicht
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 58 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 27 %Hintergrund, keine Belege
- Luna 68 %Hintergrund, keine Belege
- JEV 29 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 61 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 42 %gleiches Oberthema, hilft nicht
- JEV 61 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 70 %gleiches Oberthema, hilft nicht
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 28 %Hintergrund, keine Belege
- Luna 40 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 27 %Hintergrund, keine Belege
- Luna 48 %Hintergrund, keine Belege
- JEV 38 %Hintergrund, keine Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 32 %Hintergrund, keine Belege
- d3-ultra 40 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 27 %Hintergrund, keine Belege
- Luna 71 %Hintergrund, keine Belege
- JEV 49 %Hintergrund, keine Belege
- amos 35 %Hintergrund, keine Belege
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 44 %einzelne zitierbare Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 25 %Hintergrund, keine Belege
- Luna 60 %Hintergrund, keine Belege
- JEV 44 %Hintergrund, keine Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 43 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 54 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 48 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 71 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 55 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 53 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 40 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 47 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 66 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 43 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv