Strands Agent: Get User Approval (Or Denial)Before Tool Use. 3 Ways.
Zusammenfassung
Kurz
Der vollständige Artikel vergleicht drei Zustimmungsverfahren für Strands-Agenten: ein bereitgestelltes Übergabewerkzeug, ein eigenes Zustimmungswerkzeug und einen Hook, der mit einer Ausnahme die Agentenschleife unterbricht. Der Autor empfiehlt die dritte, kontrollierbarere Variante, weist aber auf Umwege beim Umgang mit Hooks, Agentenstatus und Werkzeugregister hin.
Mittel
Der vollständige Artikel beschreibt drei Wege, Strands-Agenten vor einem Werkzeugeinsatz um Zustimmung zu bitten. Die einfachste Methode nutzt `handoff_to_user` und einen System-Prompt. Laut den Beispielen kann der Agent unklare Antworten jedoch als Zustimmung missverstehen; außerdem bleiben Auswahl und Auswertung der Freigaben weitgehend dem Agenten überlassen. Ein eigenes Zustimmungswerkzeug wertet Ja und Nein eindeutiger aus und kann Entscheidungen erfassen. Der Agent entscheidet aber weiterhin, wann er fragt, und die Abfrage läuft innerhalb seiner Schleife.
Der Autor empfiehlt für mehr Kontrolle einen Hook, der nicht genehmigte Werkzeugaufrufe erkennt und eine Ausnahme auslöst. So wird die Agentenschleife unterbrochen und die Zustimmung außerhalb davon eingeholt. Bei Zustimmung wird der Prompt erneut ausgeführt; bei Ablehnung wird das Werkzeug vorübergehend aus dem Register entfernt und danach wiederhergestellt. Das soll laut Autor gezielte Regeln und Cloud-Abläufe ermöglichen. Für dauerhafte Präferenzen muss der Agentenstatus gespeichert werden. Der Ansatz bringt technische Umwege mit sich: Hooks sind synchron, die Ausnahme und ein erneuter Hook-Aufruf müssen behandelt werden, und das Entfernen sowie Wiederherstellen greift direkt ins Werkzeugregister ein. Eine alternative Hook-Variante mit eingeschleustem Zustimmungswerkzeug lehnt der Autor ab. Die Beispiele belegen keine unabhängige oder produktive Erprobung.
Ausführlich lesen
Der vollständige Artikel vergleicht drei Möglichkeiten, in Strands Agents vor einem Werkzeugeinsatz eine Zustimmung der Nutzerin oder des Nutzers einzuholen. Der Autor begründet den Bedarf mit möglichen zerstörerischen Aktionen und dem Zugriff auf private Informationen. Er stellt die Ansätze anhand von Code und Beispielen mit einem Taschenrechner vor; seine Bewertungen und Schlussfolgerungen sind die Einschätzung des Autors.
**V1: Handoff-Werkzeug und System-Prompt.** Die einfachste Variante verwendet das bereitgestellte `handoff_to_user`-Werkzeug. Ein System-Prompt soll den Agenten anweisen, vor jedem Werkzeugeinsatz nach Zustimmung zu fragen. Laut den gezeigten Beispielen kann der Agent nach einer Zustimmung das Werkzeug aufrufen und nach einer Ablehnung direkt antworten. Bei einer unklaren Antwort deutet er diese im Beispiel jedoch fälschlich als Zustimmung. Der Autor nennt als Vorteile, dass keine zusätzliche Logik programmiert werden muss. Als Grenzen führt er an, dass sowohl das Fragen als auch die Auslegung der Antwort dem Agenten überlassen bleiben. Außerdem sei die Auswahl zustimmungspflichtiger Werkzeuge schwer steuerbar, Entscheidungen ließen sich nicht zuverlässig als Präferenz erfassen, und der Ansatz sei für Cloud-Anwendungen unpraktisch, weil die Abfrage innerhalb der Agentenschleife erfolgt.
**V2: Eigenes Zustimmungswerkzeug.** Ein benutzerdefiniertes Werkzeug fragt nach einem ausdrücklich eingegebenen Ja oder Nein und behandelt andere Antworten als ungültig, bis eine eindeutige Antwort vorliegt. Dadurch kann die Anwendung die Antwort auswerten und Entscheidungen grundsätzlich speichern. Weiterhin entscheidet aber der Agent, ob er überhaupt fragt und welches Werkzeug eine Freigabe benötigt; gespeicherte Präferenzen seien deshalb schwer verlässlich anzuwenden. Auch diese Abfrage läuft laut Artikel innerhalb der Agentenschleife und eignet sich daher nur schwer für Cloud-Anwendungen.
**V3: Hook, Ausnahme und Agentenstatus.** Der Autor empfiehlt diese Variante für mehr Kontrolle. Ein Hook prüft nach einer Modellantwort, ob ein Werkzeug aufgerufen werden soll und ob dafür bereits eine Zustimmung im Agentenstatus gespeichert ist. Fehlt sie, löst der Hook eine benutzerdefinierte Ausnahme aus, die die Agentenschleife unterbricht. Danach wird die Zustimmung außerhalb dieser Schleife eingeholt. Bei Zustimmung wird der frühere Prompt erneut ausgeführt; bei Ablehnung wird das betreffende Werkzeug vorübergehend aus dem Werkzeugregister entfernt, der Prompt erneut ausgeführt und das Werkzeug anschließend wieder eingetragen. Laut Autor lässt sich die Freigabe dadurch gezielter steuern und auch über einen API-Aufruf mit Rückruf abbilden. Für anwendungsübergreifende oder sitzungsübergreifende Präferenzen müsse der Status etwa in einer Datei oder Datenbank dauerhaft gespeichert werden.
Der Artikel nennt technische Einschränkungen: Hooks laufen synchron, die Ausnahme muss die Schleife beenden, und der Hook wird nach der Ausnahme erneut ausgelöst, weshalb der Code diesen Fall gesondert behandeln muss. Beim Ablehnen greift das Beispiel direkt auf das Werkzeugregister zu, da der Autor dort keine passende Entfernen-Funktion vorfindet; das Wiedereintragen sei zudem durch Typisierungsprobleme erschwert. Eine alternative V3-Variante, die die Abfrage als Werkzeug in den Hook einschleust, bezeichnet der Autor als unsauber und rät ausdrücklich von ihr ab. Die Beispiele sind Demonstrationen; der Text berichtet keine unabhängige Prüfung oder produktive Erprobung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna lieferte zwei Zusammenfassungen; bewertet wurde die mittlere, ausführlichere. Die kurze Fassung ist sachlich korrekt, aber knapper. Die Einordnung stützt sich auf den Artikeltext, nicht auf Lunas Anteilsangaben.
Im Bericht, aber nicht in der Zusammenfassung
- Bei Ablehnung arbeitet der Agent ohne das gesperrte Werkzeug weiter und beantwortet die Frage direkt.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Beispiele belegen keine unabhängige oder produktive Erprobung.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 21 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 38 %einzelne zitierbare Belege
- JEV 32 %einzelne zitierbare Belege
- amos 23 %Hintergrund, keine Belege
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 25 %beantwortet teilweise oder widerspricht
- Luna 48 %beantwortet teilweise oder widerspricht
- JEV 51 %beantwortet teilweise oder widerspricht
- amos 23 %einzelne zitierbare Belege
- SubQ 24 %Hintergrund, keine Belege
- drex 20 %einzelne zitierbare Belege
- d3-ultra 29 %Hintergrund, keine Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen?
- SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht?
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 21 %gleiches Oberthema, hilft nicht
- Luna 23 %Hintergrund, keine Belege
- JEV 40 %einzelne zitierbare Belege
- amos 24 %einzelne zitierbare Belege
- SubQ 33 %gleiches Oberthema, hilft nicht
- drex 21 %einzelne zitierbare Belege
- d3-ultra 44 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 55 %einzelne zitierbare Belege
- JEV 38 %beantwortet teilweise oder widerspricht
- amos 25 %nur am Rande erwähnt
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung Hintergrund, keine Belege
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Weitere Berichte zu diesen Fragen
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv