AWS Bedrock Converse API with Rust: Tool Use
Zusammenfassung
Kurz
Der vollständige Bericht zeigt den Rust-Ablauf für Werkzeugaufrufe mit der nicht gestreamten AWS-Bedrock-Converse-API: Schema definieren, Modellantwort auf Werkzeugaufrufe prüfen, Ergebnis zurücksenden. Das Beispiel `CREATE_FILE` legt jedoch keine Datei an, sondern gibt Eingaben aus und meldet Erfolg; zudem stimmen Modell-ID und Modellname im Prompt nicht überein.
Mittel
Der vollständige Bericht erklärt, wie Werkzeugaufrufe mit der nicht gestreamten AWS-Bedrock-Converse-API in Rust umgesetzt werden können. Das Beispielwerkzeug `CREATE_FILE` soll einen Pfad und optionalen Dateiinhalt entgegennehmen. Weil die verwendeten SDK-Typen laut Autor keine Serde-Unterstützung bieten, wird ein JSON-Schema mit eigenen Strukturen in AWS-Smithy-`Document`-Werte umgewandelt und als Werkzeugkonfiguration an Bedrock übergeben.
Ein `BedrockService` verwaltet Client, Systemprompt, Gesprächsverlauf und Werkzeugkonfiguration. Er sendet die Benutzereingabe, verarbeitet Text und Werkzeugaufrufe aus der Modellantwort, führt erkannte Werkzeuge aus und sendet deren Ergebnis als Nachricht mit der Rolle `User` zurück. Die Werkzeugfunktion gleicht den Namen ab, übernimmt die Aufruf-ID in das Ergebnis und meldet Erfolg oder einen Fehler bei unbekannten Werkzeugen. Für Streaming verweist der Autor auf einen Folgeartikel.
Die zentrale Grenze: Das Beispiel erstellt keine Datei. `use_tool` gibt Eingabeinformationen nur aus und meldet den Erfolg. Der Bericht führt außerdem eine Claude-3-Haiku-Modell-ID auf, während der Systemprompt Claude 3.5 Sonnet nennt; die Abweichung bleibt unerklärt.
Ausführlich lesen
Der vollständige Bericht ist eine technische Anleitung dazu, wie sich Werkzeugaufrufe mit der nicht gestreamten Converse API von AWS Bedrock in Rust einrichten lassen. Als Beispiel dient ein Werkzeug namens `CREATE_FILE`, das laut Beschreibung eine Datei an einem angegebenen Pfad mit optionalem Inhalt erstellen soll. Der Autor beschränkt das Beispiel auf eine einzelne Eingabe, statt eine interaktive Unterhaltung über Terminaleingaben umzusetzen; für Streaming verweist er auf einen Folgeartikel.
Die Anleitung nennt als Voraussetzungen mehrere Rust-Abhängigkeiten, darunter das AWS-Konfigurationspaket und Bedrock-Runtime-SDK, Tokio, Serde und `anyhow`. Der Client wird mit einer Regionsauswahl erstellt, die `us-east-1` bevorzugt. Für die Werkzeugspezifikation definiert der Beitrag ein JSON-Schema mit einem erforderlichen Pfad und optionalem Inhalt. Weil die genannten SDK-Typen laut Autor keine Serde-Serialisierung oder -Deserialisierung unterstützen, wandelt eigener Rust-Code das Schema in AWS-Smithy-`Document`-Werte um. Anschließend wird die Spezifikation in eine `ToolConfiguration` aufgenommen. Eine auskommentierte Option zeigt, wie sich ein bestimmtes Werkzeug erzwingen ließe.
Der zentrale Ablauf besteht aus fünf Schritten: Werkzeug definieren, Eingabe an Bedrock senden, die Antwort auf Werkzeugaufrufe prüfen, diese lokal ausführen und das Ergebnis an das Modell zurückgeben. Ein `BedrockService` hält dafür den Client, einen Systemprompt, den Gesprächsverlauf und die Werkzeugkonfiguration. Die Methode `run` ergänzt die Benutzereingabe um eine Nachricht und sendet sie. Die Antwortverarbeitung speichert die Modellnachricht, gibt Textinhalte aus und übergibt erkannte Werkzeugaufrufe an `use_tool`. Gibt es Werkzeugergebnisse, werden sie als Nachricht mit der Rolle `User` in den Gesprächsverlauf aufgenommen und erneut an Bedrock gesendet; die anschließende Textantwort des Modells wird ausgegeben.
`use_tool` prüft den Werkzeugnamen und baut für `CREATE_FILE` einen Ergebnisblock mit der ID des Aufrufs, einer Erfolgsmeldung und dem Status `Success`. Für unbekannte Werkzeugnamen wird ein Fehler ausgelöst. Der Beitrag zeigt auch, wie ein Fehlerstatus zurückgegeben werden könnte.
Eine wesentliche Einschränkung: Die gezeigte Funktion legt tatsächlich keine Datei an. Der Autor sagt ausdrücklich, dass sie den Namen und die Eingabe lediglich ausgibt und den Erfolg nur meldet. Das Beispiel demonstriert daher die Übergabe und Rückgabe eines Werkzeugaufrufs, aber keine echte Dateierstellung. Außerdem nennt der Systemprompt Claude 3.5 Sonnet, während die Beispielkonstante eine Claude-3-Haiku-Modell-ID verwendet; der Bericht erläutert diese Abweichung nicht.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung. Die kurze Fassung stimmt in ihren Kernaussagen ebenfalls mit dem Bericht überein: Das Beispiel legt keine Datei an, und Modell-ID und Prompt weichen voneinander ab.
Im Bericht, aber nicht in der Zusammenfassung
- Der Fehlerfall mit ToolResultStatus::Error bei fehlgeschlagener Werkzeugausführung wird nicht erwähnt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 38 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 49 %Hintergrund, keine Belege
- JEV 37 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 47 %einzelne zitierbare Belege
- JEV 43 %einzelne zitierbare Belege
- amos 28 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 37 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug