Swift: Delegated Tools With Foundation Models
Zusammenfassung
Kurz
Der Beitrag beschreibt einen Swift-`Agent`-Wrapper, der delegierte Tool-Ausgaben zentral abfängt, im Gesprächsverlauf speichert und sowohl bei normalen als auch bei gestreamten Antworten zurückgibt. Das Beispiel zeigt eine nutzbare Folgefrage; laut Autor funktioniert die strukturierte Ausgabe bei direkt zurückgegebenen Tool-Ergebnissen jedoch nicht, und `preserveTranscript` ist nötig, um den Prompt zu erhalten.
Mittel
Der Bericht stellt ein Swift-Muster vor, mit dem Foundation-Model-Tools zentral an die aufrufende Anwendung delegiert werden können. Statt die Abbruchlogik in jedes Tool einzubauen, markiert eine Konfiguration delegierte Tools. Ein Hook wirft beim jeweiligen Tool-Ausgang einen speziellen Fehler, der das Ergebnis enthält; ein `Agent`-Wrapper fängt ihn ab und ergänzt den Gesprächsverlauf um Tool-Ausgang und Antwort. Die Transkript-Richtlinie muss `preserveTranscript` verwenden, damit der vorherige Prompt beim Abbruch erhalten bleibt.
Für Streaming leitet der Wrapper normale Inhaltsaktualisierungen weiter und sendet für delegierte Tools ein eigenes Ereignis mit deren Ausgabe. Ein Begrüßungsbeispiel zeigt, dass das Modell in einer Folgefrage auf das protokollierte Tool-Ergebnis zurückgreifen kann. Laut Autor ist das zusätzliche Einfügen des Tool-Ausgangs in diesem Beispiel nicht notwendig, dient aber der Zuordnung von Aufruf und Ergebnis. Als Einschränkung nennt der Beitrag, dass die festgelegte strukturierte Ausgabe des Agenten nicht greift, wenn der Tool-Ausgang direkt als Agent-Ausgabe zurückgegeben wird. Der Artikel zeigt Code und ein kurzes Beispiel, aber keine umfassende Evaluation.
Ausführlich lesen
Der Bericht beschreibt ein Muster, mit dem eine Swift-Anwendung Tool-Aufrufe eines Foundation-Models an eine übergeordnete Anwendung weiterreichen kann, ohne auf eine zusätzliche Modellantwort zu warten. Der Autor nennt zwei Nachteile eines einfachen Abbruchs durch einen Fehler mit dem Tool-Ergebnis: Jedes Tool müsste die Delegierungslogik selbst enthalten, und der nächste Gesprächsschritt hätte keinen gespeicherten Tool-Ausgang, auf den das Modell zurückgreifen könnte.
Der vorgeschlagene Aufbau bündelt die Delegierung in einem wiederverwendbaren `Agent`-Wrapper. Eine `ToolConfig` ordnet jedem Tool ein Delegierungsmerkmal zu. Ein dynamisches Profil ermittelt daraus die Namen der delegierten Tools. Ein `onToolOutput`-Hook löst für diese Tools einen eigens dafür vorgesehenen Fehler aus, der den `Transcript.ToolOutput` enthält. Andere Tools laufen dem Beispiel zufolge normal weiter. Die Fehlerbehandlungsrichtlinie des Transkripts muss auf `preserveTranscript` stehen, damit der vorherige Prompt bei diesem Abbruch nicht verloren geht.
Der Wrapper fängt den speziellen Fehler ab und gibt das Tool-Ergebnis als eigenes Ergebnis zurück. Zugleich ergänzt er den Sitzungsverlauf programmatisch um den Tool-Ausgang und eine Antwort mit dessen Segmenten. Laut Bericht ist der Eintrag des Tool-Ausgangs in diesem Beispiel nicht zwingend: Auf einen Tool-Aufruf kann direkt eine Antwort folgen, ohne dass die nächste Generierung dadurch fehlschlägt. Der Autor fügt den Ausgang dennoch ein, um Tool-Aufruf und Ergebnis im Verlauf einander zuzuordnen. Der Wrapper stellt außerdem eine Hilfsfunktion bereit, um reguläre generierte Inhalte in einen gewünschten strukturierten Typ umzuwandeln.
Für Streaming bleibt die Grundidee gleich. Der Wrapper erzeugt selbst einen asynchronen Stream, leitet normale Inhaltsaktualisierungen samt Nutzungsdaten weiter und gibt bei delegierten Tools stattdessen ein Ereignis mit dem Tool-Ausgang aus. Das Beispiel mit einem Begrüßungs-Tool zeigt laut dargestelltem Verlauf, dass das Modell in einer Folgefrage auf die gespeicherte Information zurückgreifen kann: Nach „greet itsuki“ beantwortet es „who did you greet?“ mit „I greeted itsuki.“
Der Bericht nennt eine wesentliche Einschränkung: Wird ein Tool-Ausgang direkt als Agent-Ausgabe zurückgegeben, greift eine am Agenten definierte strukturierte Ausgabe für diesen delegierten Schritt nicht. Der Artikel präsentiert das Muster anhand von Code und einem kurzen Gesprächsbeispiel; weitere Tests, Leistungswerte oder eine umfassende Bewertung nennt er nicht. Das erwähnte FoundationModelsHarness-Projekt des Autors befindet sich laut Beitrag noch in Arbeit.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Treue-Bewertung bezieht sich auf beide Zusammenfassungen gemeinsam, da das Schema nur ein Objekt vorsieht. Die Einordnung erfolgt unabhängig von Lunas Stufen und Anteilen.
Im Bericht, aber nicht in der Zusammenfassung
- Grundproblem: Wirft ein Tool einen Fehler, fehlen Tool-Ausgabe und Antwort im Sitzungsverlauf, sodass das Modell das Ergebnis in der nächsten Runde nicht sieht (in der kurzen Fassung ganz, in der mittleren nicht benannt)
- Motivation: Die Abbruchlogik müsste sonst in jedem Tool wiederholt werden; die zentrale Lösung über DynamicProfile und onToolOutput wird nur in der mittleren Fassung angedeutet
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 32 %gleiches Oberthema, hilft nicht
- JEV 22 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 43 %einzelne zitierbare Belege
- JEV 31 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht