Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi4. Juli 2025 · Q002705

Lessons from a chimp: AI "scheming" and the quest for ape language

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist nur der Abstract eines Beitrags, der mögliche strategische Täuschung durch KI mit der historischen Forschung zu Sprache bei Primaten vergleicht. Die Autorinnen und Autoren warnen vor Überinterpretation, anekdotischer Evidenz und fehlender Theorie; die konkreten Empfehlungen und Belege stehen im Auszug nicht.

Mittel

Der bereitgestellte Text ist nur der Abstract eines wissenschaftlichen Beitrags. Darin untersuchen die Autorinnen und Autoren die Frage, ob heutige KI-Systeme möglicherweise verdeckt und strategisch Ziele verfolgen, die nicht mit den vorgesehenen Zielen übereinstimmen („Scheming“).

Als Vergleich ziehen sie die Forschung der 1970er-Jahre zur Frage heran, ob nichtmenschliche Primaten natürliche Sprache erlernen könnten. Diese Forschung sei laut den Autorinnen und Autoren durch eine übermäßige Zuschreibung menschlicher Eigenschaften, starke Abstützung auf Anekdoten und beschreibende Analysen sowie einen unzureichenden theoretischen Rahmen geprägt gewesen. Die heutige Forschung zu KI-Scheming solle solche Fehler vermeiden. Der Beitrag kündigt konkrete Vorschläge für ein produktiveres und wissenschaftlich strengeres Forschungsprogramm an. Welche Vorschläge und Belege genau gemeint sind, lässt sich dem Abstract nicht entnehmen; er belegt auch nicht, dass aktuelle KI-Systeme tatsächlich schemen.

Ausführlich lesen

Der bereitgestellte Text ist nur der Abstract eines wissenschaftlichen Beitrags; er enthält keine ausführliche Darstellung der untersuchten Studien oder der vorgeschlagenen Schritte. Die Autorinnen und Autoren befassen sich mit der Frage, ob heutige KI-Systeme möglicherweise „Scheming“ entwickeln – also verdeckt und strategisch Ziele verfolgen, die nicht mit den vorgesehenen Zielen übereinstimmen.

Als historischen Vergleich betrachten sie die Forschung der 1970er-Jahre dazu, ob nichtmenschliche Primaten natürliche Sprache erlernen könnten. Nach ihrer Einschätzung war diese Forschung von drei Problemen geprägt: Menschliche Eigenschaften wurden den Tieren übermäßig zugeschrieben, anekdotische Beobachtungen und beschreibende Analysen erhielten zu viel Gewicht, und ein tragfähiger theoretischer Rahmen fehlte.

Die Autorinnen und Autoren sehen darin Lehren für die heutige Forschung zu möglichem KI-Scheming. Sie empfehlen, diese Schwächen aktiv zu vermeiden, und kündigen konkrete Schritte an, mit denen das Forschungsprogramm produktiver und wissenschaftlich belastbarer werden könne. Welche Schritte das sind und welche Belege oder Methoden der Beitrag im Einzelnen heranzieht, geht aus dem bereitgestellten Abstract nicht hervor; Aussagen über tatsächliches Scheming aktueller Systeme lassen sich daraus ebenfalls nicht ableiten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 34 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 63 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 25 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 22 %Hintergrund, keine Belege
    • Luna 79 %Hintergrund, keine Belege
    • JEV 54 %Hintergrund, keine Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 21 %einzelne zitierbare Belege
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 22 %Hintergrund, keine Belege
    • Luna 53 %Hintergrund, keine Belege
    • JEV 61 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 23 %Hintergrund, keine Belege
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %Hintergrund, keine Belege
    • Luna 52 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →