Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind11. Dezember 2020 · Q003864

Imitating Interactive Intelligence

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Beitrag stellt eine virtuelle Spielumgebung und ein kombiniertes Trainingsverfahren vor, mit denen KI-Agenten lernen sollen, sprachliche Anweisungen zu verstehen und gemeinsam mit Menschen zu handeln. Die berichteten Ergebnisse zeigen Verbesserungen durch zusätzliche Lernverfahren, doch Menschen waren in den gezeigten Aufgaben erfolgreicher und die Agenten scheiterten noch an vielen Aufgaben.

Mittel

Der Beitrag beschreibt, wie KI-Agenten Menschen in einer virtuellen Umgebung sprachlich verstehen und bei Handlungen unterstützen könnten. Dafür entwickelten die Forschenden den „Playroom“: eine variabel gestaltete Simulation mit zwei Agenten, die sich bewegen, Gegenstände manipulieren und miteinander sprechen. Weil laut Beitrag keine geeigneten vorhandenen Daten für solche Interaktionen vorlagen, sammelten Menschen in der Simulation mehr als ein Jahr an Echtzeitdialogen und Handlungen.

Die Agenten verarbeiten Bilder und Sprache und geben Bewegungen sowie Äußerungen aus. Ihr Training verbindet Nachahmungslernen, bestärkendes Lernen und zusätzliche Lernaufgaben. „Solver“ führen Anweisungen aus und beantworten Fragen; „Setter“ stellen Aufgaben und Fragen. Der Beitrag berichtet, dass die Kombination der Lernverfahren erfolgreicher war als einfachere Trainingsvarianten: Reines Nachahmungslernen erreichte laut Abbildungsbeschreibung etwa 10 bis 20 Prozent Erfolg, während die umfassender trainierten Agenten besser abschnitten. Menschen blieben in den gezeigten Aufgaben erfolgreicher.

Die Bewertung bleibt schwierig, weil Sprache mehrdeutig ist und Aufgaben oft kein klares Richtig oder Falsch haben. Die Autoren räumen ein, dass die Agenten viele Aufgaben noch nicht bewältigen. Eine Übertragung auf weitere komplexe Umgebungen wird als Möglichkeit dargestellt, nicht als nachgewiesenes Ergebnis.

Ausführlich lesen

Der Beitrag „Imitating Interactive Intelligence“ beschreibt einen Forschungsansatz für KI-Agenten, die Menschen sprachlich verstehen und zugleich in einer gemeinsam genutzten Umgebung handeln sollen. Als Leitgedanken nennt er zwei Fragen: Was sollen KI-Systeme tun, und woran lässt sich erkennen, ob sie dabei Fortschritte machen? Für interaktive Systeme seien diese Fragen eng verbunden: Ihre Fähigkeiten sollten sich auch daran zeigen, wie sie sich im Austausch mit Menschen verhalten.

Als Forschungsumgebung stellt der Beitrag den simulierten „Playroom“ vor. Dort bewegen sich virtuelle Roboter, betrachten und greifen Gegenstände und sprechen miteinander. Raumaufteilung, Möbel, Landmarken und Spielzeug können variieren. Die wechselnden Szenen sollen Aufgaben zu räumlichen Beziehungen, mehrdeutigen Bezeichnungen, Verbergen und eingeschränkter Sicht ermöglichen. Zwei Agenten schaffen dabei eine soziale Situation, in der Zusammenarbeit und der Austausch unterschiedlichen Wissens untersucht werden können.

Da für solche sprachlich verankerten Interaktionen laut Beitrag keine passende vorhandene Datensammlung bereitstand, ließen die Forschenden Menschen miteinander Aufgaben in der Simulation bearbeiten. Eine Person erhielt Anstöße, etwa eine räumliche Anweisung zu formulieren oder nach dem Ort eines Gegenstands zu fragen. So sei insgesamt mehr als ein Jahr an Interaktionen in Echtzeit gesammelt worden. Die Agenten verarbeiten Bilder und Sprache und geben sowohl Bewegungen als auch sprachliche Äußerungen aus.

Der Trainingsansatz verbindet Nachahmungslernen, bestärkendes Lernen sowie zusätzliche überwachte und unüberwachte Lernaufgaben. Aus menschlichen Demonstrationen werden zunächst Verhaltensweisen und Belohnungsmodelle abgeleitet; bestärkendes Lernen und interaktives Selbstspiel sollen die Agenten weiter verbessern. Der Beitrag unterscheidet „Solver“, die Anweisungen ausführen und Fragen beantworten, von „Settern“, die Aufgaben stellen und Fragen formulieren. Nach dem Training können Menschen als Setter mit den Solver-Agenten interagieren.

Als Ergebnis berichtet der Beitrag, dass die Kombination mehrerer Lernverfahren besser abschnitt als einfachere Varianten. Laut Bildbeschreibung waren zufällig initialisierte Agenten nahezu nie erfolgreich; reines Nachahmungslernen erreichte ungefähr 10 bis 20 Prozent. Zusätzliche Hilfsaufgaben verbesserten die Leistung, und Modelle mit bestärkendem Lernen und interaktivem Selbstspiel wurden am besten bewertet. Menschen erreichten in den dargestellten Aufgaben weiterhin die höchsten Erfolgsraten. Ein Beispiel zeigt außerdem, dass ein aus Demonstrationen gelerntes Belohnungsmodell die passende Anweisung „nimm den weißen Roboter“ gegenüber einer abweichenden Anweisung zum roten Roboter bevorzugt.

Der Beitrag betont zugleich Grenzen der Bewertung: Bei offenen sprachlichen Aufgaben gibt es nicht immer ein eindeutiges Richtig oder Falsch; Begriffe wie „in die Nähe“ sind auslegungsbedürftig. Zur Diagnose und Bewertung kombinierten die Forschenden verschiedene Verfahren, darunter umfangreiche Interaktionen zwischen Menschen und Agenten. Die Autoren erklären, dass die Agenten viele Aufgaben noch nicht bewältigen. Ihre Einschätzung, der Ansatz könne auf andere komplexe Umgebungen und Interaktionen übertragen werden, ist eine Aussicht des Beitrags, kein hier belegter Nachweis allgemeiner Einsatzfähigkeit.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen (kurz und mittel) wurden gemeinsam geprüft, das Urteil gilt für beide. Die Einordnung stützt sich nur auf den Berichtstext und die Bildunterschriften, die Abbildungen selbst wurden nicht ausgewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Bewertung der Agenten durch Mensch-Agent-Versuche als zentrales Evaluationsverfahren
  • Die Belohnungsfunktion, die bei kontrafaktischer Anweisung („Take the red robot…“) deutlich weniger Belohnung vergibt
  • Der Ausgangspunkt beim Turing-Test und die Doppelrolle von Interaktion als Prüfung und Ziel

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 55 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 46 %einzelne zitierbare Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 73 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 34 %beantwortet teilweise oder widerspricht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung Hintergrund, keine Belege

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →