Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com22. Oktober 2026 · Q009612

Swift/FoundationModels: Give LanguageModels Some Long-Term Memories. On-Device.

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der vollständige Bericht beschreibt zwei experimentelle lokale Speicherverfahren für FoundationModels: semantische Suche mit NaturalLanguage-Einbettungen und Volltextsuche mit SQLite FTS5. Die eigenen Tests des Autors zeigen erhebliche Grenzen bei Ähnlichkeit und Werkzeugwahl; mehr Anweisungen halfen nicht, während ein Hinweis zur proaktiven Suche etwas nützlich erschien.

Mittel

Der vollständige Bericht schildert einen experimentellen Ansatz für ein lokales Langzeitgedächtnis mit Swift und FoundationModels. Der Autor warnt, dass solche Erinnerungsfunktionen nach seiner Erfahrung oft unzuverlässig arbeiten; sein System versteht er daher eher als Zusatz als als verlässliche Grundlage.

Er vergleicht einen In-Memory-Speicher mit Satzvektoren aus Apples NaturalLanguage-Framework und eine GRDB/SQLite-Lösung mit FTS5-Volltextsuche. Bei der ersten Methode werden Einbettungen gespeichert und Kosinusdistanzen berechnet. Der Autor findet Apples Modell in eigenen Beispielen wenig überzeugend, hält abgestimmte Schwellenwerte aber für einen möglichen Nutzen. FTS5 liefert relative BM25-Rangwerte, aus denen der Bericht einen Ähnlichkeitswert ableitet. Beide Verfahren finden sprachliche Nähe; sie belegen nicht, dass ein Fakt die konkrete Frage logisch beantwortet.

In den gezeigten Tests wählt das Modell mitunter falsche Kategorien, verfehlt gespeicherte Einschränkungen oder speichert Aussagen missverständlich. Ausführlichere Werkzeuganweisungen verschlechterten die Ergebnisse laut Autor sogar. Er erwägt deshalb eine separate Extraktion dauerhafter Fakten aus Gesprächsverläufen. Inhalte pauschal in den Systemprompt einzufügen, lehnt er mangels verlässlicher Auswahlkriterien ab. Ein zusätzlicher Hinweis, das Suchwerkzeug proaktiv zu nutzen, half nach seinen begrenzten Tests etwas. Der Bericht präsentiert diese Ergebnisse als persönliche Experimente, nicht als allgemeinen Leistungsnachweis.

Ausführlich lesen

Der vollständige Bericht beschreibt einen persönlichen, experimentellen Ansatz für ein lokales Langzeitgedächtnis für Sprachmodelle mit Swift und Apples FoundationModels. Der Autor betont gleich zu Beginn, dass er solchen Erinnerungsfunktionen bislang wenig vertraut: Nach seiner Erfahrung nutzen bestehende Systeme gespeicherte Informationen teils unzuverlässig oder übertragen Kontext unpassend. Das vorgestellte Gedächtnis sei deshalb vor allem ein Zusatz für einen lokalen Agenten und keine Funktion, auf die man sich sicher verlassen könne.

Der Autor zerlegt das System in drei Teile: einen Speicher sowie Verfahren zum Hinzufügen und Abrufen von Erinnerungen. Für den Speicher vergleicht er zwei Ansätze. Ein In-Memory-Speicher verwendet Satzvektoren aus dem NaturalLanguage-Framework und berechnet daraus eine Kosinusdistanz. Die Vektoren bestehender Fakten werden beim Speichern abgelegt, damit sie bei jeder Suche nicht erneut berechnet werden müssen. Der Autor berichtet jedoch, Apples Einbettungsmodell habe in seinen Beispielen semantische Ähnlichkeit nur mäßig abgebildet und wiederholte Wörter stark gewichtet. Er hält die Distanzen dennoch mit empirisch gewählten Schwellenwerten für potenziell brauchbar. Die Beispiele und Bewertungen sind seine eigenen Tests; sie belegen keine allgemeine Leistungsfähigkeit. Der Speicher ergänzt Kategorien, exakte Texttreffer, Begrenzung der Ergebnisse und eine Bereinigung lange nicht verwendeter Einträge. Der Autor weist außerdem auf die fehlende sichere gleichzeitige Nutzung einer einzelnen NLEmbedding-Instanz hin.

Als zweite Möglichkeit stellt er GRDB mit SQLite FTS5 vor. Dessen Volltextsuche liefert BM25-Rangwerte, die relativ zur jeweiligen Suchanfrage sind. Deshalb schlägt der Autor vor, einen temporären Eintrag für Anfrage oder neuen Fakt anzulegen und dessen Rang als Referenz für einen Ähnlichkeitswert zwischen null und eins zu verwenden. Der temporäre Suchdatensatz wird zurückgerollt; beim Hinzufügen wird ein ähnlicher neuer Eintrag gegebenenfalls wieder gelöscht. Kategorien, Ergebnisgrenzen, Bereinigung und Aktualisierung des Zeitpunkts der letzten Nutzung sind ebenfalls vorgesehen. Diese Methode misst laut Bericht vor allem Wortüberschneidung, nicht ob ein gespeicherter Fakt eine erfragte Beziehung tatsächlich belegt.

Ein zentraler Befund aus den gezeigten FoundationModels-Tests betrifft die Werkzeugnutzung: Das Modell suchte bei Fragen zu Berechtigungen teils in unpassenden Kategorien, übersah vorhandene Einschränkungen oder speicherte Aussagen aus seiner Perspektive als Nutzerpräferenzen. Ausführlichere Anweisungen und Beispiele machten die Ergebnisse nach Darstellung des Autors sogar deutlich schlechter. Als Alternative schlägt er eine separate Extraktion dauerhafter Fakten aus Gesprächsverläufen vor, damit das Hauptmodell nicht selbst während des Gesprächs über jeden Speicheraufruf entscheiden muss.

Beim Abruf verwirft er die Idee, Erinnerungsinhalte pauschal in den Systemprompt einzufügen: Umfang und Relevanz seien im Voraus schwer festzulegen, und ein unvollständiger Index könne fälschlich den Eindruck erwecken, nicht aufgeführte Informationen seien nicht gespeichert. Als kleine, in seinen Tests hilfreiche Maßnahme empfiehlt er stattdessen einen zusätzlichen Hinweis am Ende jeder Nutzeranfrage, das Suchwerkzeug proaktiv für nutzerbezogene Informationen zu verwenden. Das bleibt eine begrenzte Beobachtung des Autors, kein nachgewiesener allgemeiner Erfolg. Insgesamt behandelt der Bericht das Gedächtnis als experimentellen Prototyp und macht deutlich, dass Ähnlichkeitssuche weder verlässliche Werkzeugwahl noch sachlich gestützte Antworten garantiert.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen; die Prüfung gilt für beide zusammen. Die mittlere Fassung ist im Wesentlichen treu. Die kurze Fassung schreibt, mehr Anweisungen hätten nicht geholfen, der Bericht sagt aber, ausführlichere Werkzeugbeschreibungen hätten die Ergebnisse verschlechtert. Die Einordnung stützt sich nur auf den Bericht; er ist ein Beitrag über lokales Gedächtnis mit NaturalLanguage und FTS5 und enthält keine Governance-Aussagen.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Ablehnung, Erinnerungen pauschal in den Systemprompt einzufügen, fehlt in der kurzen Fassung
  • Die Erwägung einer separaten Fakten-Extraktion aus Gesprächsverläufen fehlt in der kurzen Fassung

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 64 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →