My Legal Doc RAG: The Actual Design + Implementation.
Zusammenfassung
Kurz
Der Autor stellt einen konkreten RAG-Entwurf für Rechtsdokumente vor: quellenspezifische Normalisierung mit Text- und Originaldatei-Fallbacks, kontextbewusstes Chunking und einen Abruf mit Datumsplanung, zusätzlichem Versionsfilter und nachgelagertem Reranking. Da nur ausdrücklich festgelegte Ablaufdaten erfasst werden, kann die Vektorsuche Versionen nicht vollständig aussortieren; der Beitrag beschreibt einen Ansatz samt Beispielen, aber keine systematische Leistungsprüfung.
Mittel
Der Autor erläutert den Entwurf eines RAG-Systems für Rechtsdokumente mit drei Schwerpunkten: Normalisierung, hierarchisches Chunking und zeitbezogener Abruf. Für bekannte Quellen wie E-Gov wird ein spezieller Parser vorgeschlagen, der Markdown erzeugt. Bei unbekannten oder fehlerhaften Formaten folgt eine einfache Textextraktion; scheitert auch diese, wird das Original dem Bedrock-Standardparser überlassen. Der Autor hält Normalisierung besonders bei strukturierten Dokumenten wie Gesetzen für nützlich.
Eine Lambda teilt normalisierte Texte entlang von Artikeln, Absätzen und Listen und ergänzt Chunks um ihren Überschriftenpfad. Für PDFs und nicht normalisierte Texte dienen weichere Zeilenbehandlung beziehungsweise Tokenfenster als Fallback. Der Abruf plant Suchanfrage, Datumsfilter und zeitliche Absicht. Bedrock sucht zunächst bis zu 50 Treffer; anschließend filtert das System Versionen anhand zusätzlicher Datenbankinformationen und lässt einen separaten Reranker die besten fünf auswählen. Weil nur ausdrücklich festgelegte Ablaufdaten gespeichert werden, kann die Vektorsuche Versionen nicht allein vollständig abgrenzen. Bei unklaren Datumsangaben oder fehlenden passenden Versionen bleiben teils Treffer erhalten. Der Beitrag schildert einen konkreten Entwurf und Beispielcode, keine systematische Wirksamkeitsprüfung; Teile der Implementierung stehen laut Autor im verlinkten Repository.
Ausführlich lesen
Der Autor beschreibt Entwurf und Beispielimplementierung eines RAG-Systems für Rechtsdokumente. Im Mittelpunkt stehen drei Teile: Dokumentnormalisierung vor der Ablage in der Vektordatenbank, angepasstes Chunking und der Abruf mit Abfrageplanung, Versionsfilterung und Reranking. Der Beitrag stellt den eigenen Ansatz samt Codebeispielen vor; er berichtet keine systematische Leistungsbewertung.
Bei der Normalisierung unterscheidet der Autor drei Stufen. Für bekannte Quellen wie das japanische E-Gov-System soll ein quellenspezifischer Adapter die Struktur gezielt auslesen und als Markdown ausgeben. Ist die Quelle unbekannt oder scheitert der Adapter, wird aus XML einfacher Text gewonnen; Zeilenumbrüche an Elementgrenzen sollen dabei zusammengeklebte Textteile vermeiden. Scheitert auch das, bleibt die Originaldatei unverändert und wird dem Standardparser von Bedrock Knowledge Bases überlassen. Diese Abstufung trägt laut Autor der Vielfalt von Dateiformaten und uneinheitlichen Tags Rechnung. Die Normalisierung sei vor allem bei strukturierten Dokumenten wie Gesetzen nützlich. Markdown wird gewählt, weil der nachfolgende KB-Parser dessen Überschriften und Listen laut eigener Beobachtung weitgehend bewahrt; als Veränderung nennt der Autor die Umwandlung vollbreiter in halbbreite Ziffern.
Beim Chunking soll jeder Textabschnitt seinen hierarchischen Kontext enthalten. Eine Lambda-Funktion teilt Inhalte deshalb nach drei Fällen auf: Erfolgreich normalisierte Markdown-Texte werden anhand von Gesetzesartikeln, Absätzen und Listeneinträgen segmentiert; sehr lange Teile erhalten einen Fallback mit bis zu 1.000 Tokens und dem vollständigen Überschriftenpfad. Nicht normalisierte Texte werden an Blockumbrüchen geteilt und bei Bedarf in Tokenfenster mit ungefähr 15 Prozent Überlappung zerlegt. PDFs durchlaufen zuvor ein „Soft-Wrapping“, das sichtbare Zeilen wieder verbindet; der Titel wird aus der ersten Zeile übernommen. Für Text-Fallbacks kann der Kontext auf den Dokumenttitel beschränkt sein. Die Abschnitte erläutern außerdem, wie die Lambda Eingaben aus S3 zusammenführt, Ergebnisse zurückschreibt und Metadaten weitergibt.
Der Abrufablauf plant zunächst aus der Nutzerfrage eine semantische Suchanfrage, Datumsfilter und eine Absicht („aktuell“, „historisch“ oder „Vergleich“). Bei unklaren Fragen kann die Planung stattdessen eine Rückfrage ausgeben und den Abruf überspringen. Für Datumsfilter speichert der Autor Wirksamkeitsgrenzen als Zahlen im Format JJJJMMTT und verwendet explizite Ersatzwerte für fehlende Grenzen. Begründet wird dies mit den Vergleichsoperatoren von Bedrocks Filter, die laut Beitrag numerische Werte erwarten und fehlende Schlüssel nicht allgemein als Null behandeln. Die Vektorsuche holt bis zu 50 Treffer; anschließend werden für die betroffenen Dokumente alle Versionen aus der Datenbank geladen und ein zusätzlicher Versionsfilter angewandt. Die Datenbank und Metadaten führen nur ausdrücklich festgelegte Ablaufdaten, nicht das Ende einer Version durch spätere Ablösung. Daher kann der Vektorfilter allein irrelevante Versionen nicht vollständig aussortieren. Für gemischte oder unvollständige Datumsdaten lässt der Versionsfilter teils mehrere Versionen zu; wenn keine passende Version ermittelt wird oder der Filter alle Treffer entfernen würde, bleiben Treffer erhalten, um laut Autor keinen leeren Abruf zu erzeugen. Zuletzt ordnet ein separater Bedrock-Reranker nach dem Versionsfilter die besten fünf Treffer.
Die beschriebenen Regeln sind ein konkreter, quellenspezifischer Entwurf und Beispielcode, keine allgemeingültige Lösung. Der Autor verweist für den langen E-Gov-Adapter und die vollständige Implementierung auf ein Repository; deren Inhalte werden im Beitrag nicht vollständig wiedergegeben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die kurze Zusammenfassung ist ebenfalls inhaltlich treu, lässt aber die Details der Normalisierung und des Chunkings aus. Das Urteil oben bezieht sich auf die mittlere Fassung. Der Bericht ist ein technischer Entwurf für ein RAG-System über Rechtsdokumente und hat mit den Fragen zu KI-Modellherkunft und -Governance praktisch keinen Bezug.
Im Bericht, aber nicht in der Zusammenfassung
- Die Drei-Stufen-Logik des Chunkings mit PDF-Sonderbehandlung und Größenfenstern wird nur grob umrissen.
- Die Sidecar-Datumsfelder im Format YYYYMMDD mit Platzhalterwerten für fehlende Daten werden nicht genannt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 61 %einzelne zitierbare Belege
- JEV 31 %beantwortet teilweise oder widerspricht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung beantwortet teilweise oder widerspricht