Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind6. Dezember 2022 · Q002475

AI for the board game Diplomacy

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt Experimente, in denen verhandelnde KI-Agenten Diplomacy besser spielten als Agenten ohne Kommunikation, während Vertragsbrecher zunächst Vorteile erzielten. Sanktionen verringerten diese Vorteile; selbst daran angepasste Agenten hielten laut Bericht mehr als 99,7 Prozent ihrer Verträge ein, doch die Ergebnisse lassen offene Fragen zur Übertragbarkeit und zur langfristigen Stabilität der Kooperation.

Mittel

Der Bericht von Yoram Bachrach und János Kramár untersucht, wie KI-Agenten im sieben Personen umfassenden Brettspiel Diplomacy durch Verhandlungen gemeinsame Züge vereinbaren können. Die Forschenden ergänzten Agenten ohne Kommunikation um zwei Verhandlungsprotokolle. Mithilfe der Nash-Verhandlungslösung und von Monte-Carlo-Simulationen suchen diese „Baseline Negotiators“ nach vorteilhaften Verträgen. Laut den Experimenten übertrafen sie Agenten ohne Kommunikation deutlich.

Die Vereinbarungen sind jedoch unverbindlich. Agenten, die Verträge ignorieren oder ihre Züge so planen, als würden andere sie einhalten, erzielten den Ergebnissen zufolge Vorteile gegenüber den vertragsgetreuen Verhandlern; besonders stark war der Vorteil der zweiten Gruppe. Als Gegenmittel beendeten „Binary Negotiators“ nach einem Bruch die Kommunikation, während „Sanctioning Agents“ aktiv versuchten, den Nutzen des Vertragsbrechers zu senken. Beide Reaktionen verringerten dessen Vorteil, Sanktionen besonders deutlich.

An Sanktionen angepasste „Learned Deviators“ behielten laut Bericht einen leichten Vorteil, hielten aber mehr als 99,7 Prozent ihrer Verträge ein. Die Autoren sehen offene Fragen zur Übertragbarkeit auf reale Verhandlungen, zu unvollständiger Information und dazu, wie Kooperation erhalten bleibt, wenn Sanktionen kostspielig werden oder auch Sanktionsagenten Verträge brechen.

Ausführlich lesen

Der Bericht von Yoram Bachrach und János Kramár beschreibt Forschung dazu, wie KI-Agenten im Brettspiel Diplomacy durch Verhandeln kooperieren können und wie sich Vertragsbrüche eindämmen lassen. Diplomacy ist ein Spiel für sieben Personen: In jeder Runde verhandeln die Spielenden über gemeinsame Züge, wählen danach ihre Züge gleichzeitig und versuchen, Bündnisse zu bilden. Obwohl die Regeln einfach sind, entstehen laut Bericht durch die Abhängigkeiten zwischen den Spielenden und die große Zahl möglicher Züge komplexe strategische Situationen.

Die Forschenden erweiterten frühere Agenten, die ohne Kommunikation spielten, um Verhandlungsverfahren. Diese „Baseline Negotiators“ können gemeinsame Pläne vereinbaren und halten sich an ihre Verträge. Untersucht wurden zwei Verfahren: das Mutual Proposal Protocol und das Propose-Choose Protocol. Die Agenten prüfen mögliche Vereinbarungen mithilfe der Nash-Verhandlungslösung und von Monte-Carlo-Simulationen, die verschiedene mögliche Spielverläufe abschätzen. Den Experimenten zufolge schnitten die verhandelnden Agenten deutlich besser ab als Agenten ohne Kommunikation.

Der Bericht untersucht auch, was geschieht, wenn Vereinbarungen unverbindlich sind. „Simple Deviators“ ignorieren frühere Verträge; „Conditional Deviators“ planen ihre Züge dagegen unter der Annahme, dass andere ihre Zusagen einhalten. Laut den dargestellten Experimenten übertrafen beide Typen die vertragsgetreuen Verhandler, besonders deutlich die Conditional Deviators. Das veranschaulicht im Spiel die Gefahr, dass strategische Vertragsbrüche Vertrauen und Zusammenarbeit untergraben.

Als Gegenmaßnahmen beschreiben die Autoren zwei defensive Agententypen. „Binary Negotiators“ beenden nach einem Vertragsbruch die Kommunikation mit dem betreffenden Agenten. „Sanctioning Agents“ reagieren stärker: Sie passen ihre Ziele so an, dass sie den Nutzen des vertragsbrüchigen Gegenübers aktiv verringern. Den Ergebnissen zufolge mindern beide Ansätze den Vorteil des Vertragsbruchs, wobei Sanktionen besonders wirksam sind.

Zusätzlich trainierten die Forschenden „Learned Deviators“, die ihr Vorgehen über mehrere Spiele an Sanktionen anpassen. Diese Agenten brechen Verträge nur, wenn der unmittelbare Gewinn ausreichend hoch und das Risiko einer wirksamen Vergeltung gering ist. Sie erzielten laut Bericht einen leichten Vorteil gegenüber den Sanktionsagenten, hielten aber trotzdem mehr als 99,7 Prozent ihrer Verträge ein. Die Sanktionen förderten demnach weitgehende Vertragstreue, verhinderten Vertragsbrüche jedoch nicht vollständig.

Der Bericht betont Grenzen und offene Fragen: Die Ergebnisse stammen aus Diplomacy als kontrollierter Spielumgebung und beantworten nicht unmittelbar, wie dieselben Verfahren in realen Verhandlungen funktionieren. Die Autoren weisen außerdem darauf hin, dass Kooperation erodieren könnte, wenn Sanktionsagenten selbst Verträge brechen oder Sanktionen wegen ihrer Kosten einstellen. Wiederholte Spiele sowie Vertrauens- und Reputationssysteme könnten helfen. Offen bleiben unter anderem bessere Verhandlungsprotokolle, der Umgang mit unvollständiger Information und weitere Möglichkeiten, Vertragsbrüche zu verhindern.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung; die kurze Fassung lässt zusätzlich die Binary Negotiators, die Sanktionsmechanik und die beiden Verhandlungsprotokolle aus und ist daher lückenhafter.

Im Bericht, aber nicht in der Zusammenfassung

  • Wiederholte Interaktion über mehrere Spiele sowie Vertrauens- und Reputationssysteme werden als mögliche Zusatzmechanismen genannt
  • Learned Deviators brechen Verträge laut Bericht vor allem spät im Spiel

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

    • SF-F5-T05 Welche gemeinsamen Abläufe zur Deeskalation gibt es, um eine Blitz-Eskalation zu erkennen und zu unterbrechen, also sich aufschaukelnde Krisen, ausgelöst durch spieltheoretische Rückkopplungen im Bruchteil einer Sekunde zwischen gegnerischen autonomen Agentensystemen für Cyberabwehr und Nachrichtendienst, die schneller arbeiten als diplomatische Kanäle zwischen Menschen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

    • SF-P5-T04 Welche Gestaltung würde KI-Zusagen zwischen Staaten über Wahlen, Führungswechsel und diplomatische Brüche hinweg tragen, und würde eine Regierung einen Mechanismus annehmen, der ihre Nachfolger bindet? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 73 %einzelne zitierbare Belege
    • JEV 38 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 42 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 26 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 51 %Hintergrund, keine Belege
    • JEV 36 %beantwortet teilweise oder widerspricht
    • amos 32 %einzelne zitierbare Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 26 %gleiches Oberthema, hilft nicht

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 73 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →