Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi7. Oktober 2026 · Q000903

Transect: Retaining Observability for Long-Horizon LLM Agent Evaluations

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur der Abstract-Auszug zu Transect, einem Open-Source-Werkzeug, das lange Agentenläufe entlang einer Zeitachse analysierbar und nachvollziehbar machen soll. Eine Demonstration mit fast 13 Millionen Tokens deutete auf viel operative Arbeit und Manuskripterstellung, aber wenig anhaltende Hypothesenbildung hin; der Auszug berichtet keine breitere Prüfung der Wirksamkeit.

Mittel

Der bereitgestellte Text ist nur ein Auszug: Er umfasst den Abstract zu Transect, nicht den vollständigen Bericht. Transect ist laut Autorinnen und Autoren ein Open-Source-Werkzeug zur Analyse langer Agentenläufe. Es soll Ereignisse, Tokenverbrauch, Aktivitäten von Unteragenten und modellgenerierte Verhaltenslabels auf einer gemeinsamen Zeitachse darstellen. Prüfende können Labels zu den entsprechenden Transkriptstellen zurückverfolgen und Datentabellen für Vergleiche exportieren. Kontext und Verhaltensvokabular werden in wiederverwendbaren Konfigurationen festgelegt; Bewertungsmodelle und Analyseparameter kommen separat hinzu.

Erprobt wurde der Ablauf laut Abstract an einer KI-Forschungsbewertung mit fast 13 Millionen Tokens. Die Analyse ordnete die Arbeit in Verhaltensphasen ein und verknüpfte sie mit Forschungskompetenzen, Delegationen, Unteragenten-Interaktionen und Tokenverbrauch. Dabei zeigte sich ein Schwerpunkt auf operativer Arbeit und Manuskripterstellung, aber wenig Hinweis auf eine anhaltende Phase der Hypothesenbildung. Die Autorinnen und Autoren halten diese möglicherweise für wichtig für hochwertige wissenschaftliche Ergebnisse. Der Auszug belegt jedoch keine breitere Wirksamkeit: Weitere Läufe, Vergleichsmethoden und gemessene Verbesserungen werden darin nicht beschrieben.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält den Abstract des Berichts zu Transect, nicht den vollständigen Bericht oder das vollständige Paper. Transect wird als Open-Source-Paket beschrieben, das die Auswertung langer, offener Aufgaben mit KI-Agenten unterstützen soll. Bei solchen Aufgaben können Protokolle Hunderte Seiten umfassen und Aktionen komplexer Netzwerke aus mehreren Agenten dokumentieren. Der Abstract behauptet, dass dadurch der Bereich dessen schrumpft, was Evaluierende zuverlässig aus dem Verhalten der Agenten ableiten können. Sprachmodelle könnten bei der Einordnung helfen, eröffneten menschlichen Prüfern aber zugleich erhebliche Spielräume bei der Analyse. Das könne die Reproduzierbarkeit und Prüfbarkeit gefährden.

Transect soll den Ablauf eines langen Agentenlaufs nachvollziehbar machen, untersuchenswerte Verhaltensweisen hervorheben und ermöglichen, Deutungen am Transkript zu überprüfen. Dafür legen Nutzende den Aufgabenkontext und ein Verhaltensvokabular in einer wiederverwendbaren Konfiguration für eine Evaluationsfamilie fest. Bewertungsmodelle und Analyseparameter werden getrennt davon angegeben. Die daraus erzeugten Berichte ordnen aufgezeichnete Ereignisse, Tokenverbrauch, Aktivitäten von Unteragenten und vom Modell erzeugte Verhaltenslabels auf einer gemeinsamen Zeitachse nach Gesprächsrunden an. Labels und Ereignisse lassen sich laut Abstract zu den jeweiligen Transkriptstellen zurückverfolgen; Datentabellen können für Vergleiche zwischen mehreren Läufen exportiert werden.

Als Demonstration nennen die Autorinnen und Autoren eine KI-Forschungs- und Entwicklungsbewertung mit fast 13 Millionen erzeugten Tokens. Transect teilte die Arbeit der Agenten in Verhaltensphasen auf und stellte diese Phasen Forschungskompetenzen, Delegationen und Interaktionen zwischen Unteragenten sowie dem Tokenverbrauch gegenüber. Die kombinierte Darstellung deutete auf einen Schwerpunkt bei operativen Aufgaben und der Erstellung eines Manuskripts hin. Für eine anhaltende Phase der Hypothesenbildung habe es wenig Hinweise gegeben; der Abstract bezeichnet diese jedoch lediglich als möglicherweise notwendige Voraussetzung für hochwertige wissenschaftliche Ergebnisse.

Die Aussagen zur Leistungsfähigkeit beruhen im vorliegenden Auszug auf dieser Demonstration und der Beschreibung des Werkzeugs. Angaben zu weiteren untersuchten Läufen, Vergleichsverfahren oder gemessenen Verbesserungen enthält der Auszug nicht. Auch Details, mit denen sich die Analyse unabhängig beurteilen ließe, fehlen hier. Die weitergehende Aussage, Transect könne mit längeren und häufigeren KI-Evaluationen Schritt halten und wissenschaftliche Strenge, Transparenz sowie Reproduzierbarkeit fördern, ist daher als Ziel beziehungsweise Behauptung der Autorinnen und Autoren wiederzugeben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 39 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 27 %Hintergrund, keine Belege
    • Luna 57 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 54 %einzelne zitierbare Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 31 %Hintergrund, keine Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 44 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-V1-T04 Wie misst man die Überwachbarkeit des Denkens mit einem gemeinsamen, reproduzierbaren Maßstab, bevor sie versagt, und wie prüft man verlässlich, ob das sichtbare Denken das tatsächliche Vorgehen des Modells treu wiedergibt, auch wenn Modelle lernen, ihre Denkschritte zu optimieren? Und wenn Überwachungsergebnisse beeinflussen, welche Trainingsdaten oder Zwischenstände behalten werden: Wie prüft man, ob diese Auswahl weniger erkennbares Fehlverhalten statt weniger Fehlverhalten begünstigt, auch wenn der Denktext nie direkt bewertet wird? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 29 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 28 %Hintergrund, keine Belege
    • Luna 29 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →