AWS: Integrate Bedrock Knowledge Base (AWS SDK & LangChain)
Zusammenfassung
Kurz
Der Bericht zeigt, wie eine bestehende Bedrock Knowledge Base direkt mit boto3 oder über LangChain abgefragt wird. Laut Artikel bietet der direkte Aufruf Antwortabschnitte mit Quellenzuordnungen, während LangChains RetrievalQA zwar Quelldokumente, aber keine Zuordnung zu einzelnen Antwortteilen liefert; für Gesprächsverläufe beschreibt der Autor zusätzliche Speicher- und Konfigurationseinstellungen.
Mittel
Der Beitrag erklärt anhand von Python-Beispielen, wie eine bereits bestehende Amazon Bedrock Knowledge Base in Anwendungen genutzt werden kann: direkt über boto3 oder als Retriever in LangChain. Die direkte API `RetrieveAndGenerate` liefert eine generierte Antwort und laut Artikel Quellenzuordnungen für einzelne Antwortabschnitte. `Retrieve` liefert dagegen nur die gefundenen Quellen. Für den Aufruf benötigt man die Knowledge-Base-ID und die Modell-ARN; die Region sollte ausdrücklich gesetzt werden, wenn sie von der Standardregion der Umgebung abweicht. Der Autor weist darauf hin, dass `numberOfResults` bei `RetrieveAndGenerate` zum Zeitpunkt des Artikels nicht unterstützt werde.
Mit LangChain zeigt der Bericht eine `RetrievalQA`-Kette, die Antwort und Quelldokumente zurückgeben kann. Anders als die direkte API ordnet sie laut Artikel einzelne Antwortteile jedoch nicht ihren Quellen zu. Für Chat-Anwendungen wird eine `ConversationalRetrievalChain` mit zusammenfassendem Gesprächsspeicher vorgestellt, optional mit Verlauf in DynamoDB. Dabei seien unter anderem die Ausgabeschlüssel, die Verarbeitung des Nachrichtenverlaufs und dessen explizite Übergabe zu beachten. Die Anleitung behandelt weder die Erstellung der Knowledge Base noch die erwähnte Agenten-Integration und bezieht sich auf die gezeigten Beispielkonfigurationen.
Ausführlich lesen
Der Bericht beschreibt, wie sich eine bereits angelegte Amazon Bedrock Knowledge Base aus einer Python-Anwendung abfragen lässt. Der Autor stellt zwei Wege vor: direkte Aufrufe über das AWS SDK mit boto3 sowie die Einbindung als Retriever in LangChain. Die Nutzung einer Knowledge Base mit einem Bedrock-Agenten wird ausdrücklich erwähnt, aber nicht behandelt. Die Anleitung setzt voraus, dass die Knowledge Base bereits existiert; für ihre Erstellung verweist der Autor auf einen früheren Artikel.
Für den direkten Weg erläutert der Beitrag `RetrieveAndGenerate`. Dabei wird ein Prompt zusammen mit der Knowledge-Base-ID und der ARN des verwendeten Modells übergeben. Die AWS-API `Retrieve` liefert dem Bericht zufolge nur gefundene Quellen, während `RetrieveAndGenerate` zusätzlich eine Antwort erzeugt. Die zurückgegebenen Felder `output` und `citations` enthalten laut Artikel die Antwort beziehungsweise Zuordnungen zwischen Antwortabschnitten und verwendeten Quellen. Diese Zuordnungen können für eine Oberfläche genutzt werden, die Quellen neben den passenden Textstellen anzeigt. Die optionale Sitzungs-ID und Sitzungskonfiguration lässt der Beispielaufruf weg. Der Autor weist außerdem darauf hin, dass `numberOfResults` für `RetrieveAndGenerate` zum Zeitpunkt des Artikels nicht unterstützt werde.
Die benötigte Knowledge-Base-ID soll in der Bedrock-Konsole abgelesen werden. Für die Modell-ARN zeigt der Autor, wie sie aus Modell-ID und Region gebildet oder mit `get_foundation_model` abgerufen werden kann. Da boto3 standardmäßig die in der Umgebung eingestellte Region verwendet, empfiehlt er eine explizite Konfiguration, wenn das gewünschte Bedrock-Modell in einer anderen Region liegt. Als Suchart wird im Beispiel `HYBRID` verwendet.
Im LangChain-Abschnitt kombiniert der Beitrag einen Bedrock-LLM-Aufruf mit `AmazonKnowledgeBasesRetriever` und zeigt zunächst eine `RetrievalQA`-Kette. Der Retriever liefert Dokumente mit Quelltext und Metadaten; über `return_source_documents` lassen sich diese zusammen mit der generierten Antwort zurückgeben. Als Vorteil von LangChain nennt der Autor, dass sich die Knowledge-Base-Suche mit Modellen außerhalb von Bedrock verbinden lässt und Speicherbausteine für Gesprächsverläufe verfügbar sind. Eine wichtige Einschränkung: `RetrievalQA` liefert zwar Quelldokumente, laut Bericht aber keine Zuordnung einzelner Antwortteile zu ihren Quellen. Für eine quellengenaue Anzeige wie in der Bedrock-Konsole sei daher der direkte Aufruf von `RetrieveAndGenerate` geeigneter.
Abschließend beschreibt der Beitrag eine `ConversationalRetrievalChain` mit `ConversationSummaryBufferMemory`. Der Verlauf kann laut Beispiel direkt im Arbeitsspeicher oder über eine DynamoDB-Integration gespeichert werden. Für die Kette seien einige zusätzliche Einstellungen nötig: `output_key` soll bei mehreren Ausgabefeldern Mehrdeutigkeiten vermeiden, `get_chat_history` passe das Nachrichtenformat an, und der Verlauf müsse beim Aufruf ausdrücklich mitgegeben werden. Der Artikel berichtet, dass ohne diese Anpassungen bestimmte Format- beziehungsweise Schlüssel-Fehler auftreten können. Die Aussagen und Beispiele beziehen sich auf die im Beitrag verwendeten Bibliotheken und Konfigurationen; eine umfassende Bewertung anderer Ansätze oder eine Behandlung der Agenten-Integration enthält der Bericht nicht.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassungen sind weitgehend korrekt und ohne erfundene Angaben. Es fehlen vor allem die konkreten Fehlerfälle und die Lösung bei ConversationalRetrievalChain. Der Bericht passt thematisch nur schwach zu den drei Sammelfragen. Lunas Stufen 4 und 3 für SF-H3 und SF-V5 sind deutlich zu hoch, und die Stufe 3 für SF-A1 ist ebenfalls zu hoch, weil der Bericht Agenten ausdrücklich ausklammert.
Im Bericht, aber nicht in der Zusammenfassung
- Die konkreten Fehlerfälle der ConversationalRetrievalChain (ValueError bei Ausgabeschlüsseln und bei nicht unterstütztem ChatMessageHistory-Format) und die Lösung über get_chat_history
- Der Suchtyp HYBRID als Konfigurationsoption von RetrieveAndGenerate
- Die Warnung, dass boto3.client die Standardregion der Umgebung verwendet
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 33 %nur am Rande erwähnt
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 65 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 49 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Alle Berichte im Archiv