Swift: Bring Custom Models To FoundationModels
Zusammenfassung
Kurz
Der Artikel erklärt anhand eines vereinfachten Echo-Modells, wie `LanguageModel`, `LanguageModelExecutor` und Konfiguration zusammenwirken, um ein eigenes Modell in Foundation Models einzubinden. Das Beispiel ruft keine echte Anbieter-API auf; die beschriebenen Framework-Funktionen werden im Beitrag dargestellt, aber nicht durch Tests oder eine produktive Integration belegt.
Mittel
Der Beitrag beschreibt, wie ein eigener Sprachmodelldienst in Apples Foundation Models Framework integriert werden kann, damit Entwickler ihn über eine einheitliche Schnittstelle verwenden können. Laut Autor ist das vor allem für Modellanbieter gedacht; Anwendungen können Anbieter-APIs weiterhin direkt aufrufen.
Der Aufbau besteht aus einem `LanguageModel` als Verbindung zum Framework, einem zugeordneten `LanguageModelExecutor` für Anfrageverarbeitung und Antwortstreaming sowie einer `executorConfiguration` für Modellparameter. Einstellungen wie Temperatur und Tokenlimit können sich mit den Framework-Optionen überschneiden; der Beitrag empfiehlt deshalb, die Rangfolge festzulegen. Mit `capabilities` und zwei Methoden zur Prüfung von Datentypen soll ein Modell seine unterstützten Funktionen und Anhänge kenntlich machen. Der Autor zufolge meldet das Framework Fehler bei nicht unterstützten Fähigkeiten.
Ein vereinfachtes Echo-Modell veranschaulicht den Umgang mit Text, strukturierten Inhalten sowie Bild- und Datenanhängen. Es bindet keine echte Anbieter-API an. Der Beispielcode markiert Datenanhänge und -eingaben als Unterstützung für OS 27.2 oder neuer. Der Autor erklärt, dass das Framework den Executor anhand der Modellkonfiguration selbst erzeugt. Der Artikel bietet Beispiele, aber keine produktive Integration, Tests oder unabhängige Bestätigung seiner Aussagen.
Ausführlich lesen
Der Beitrag erläutert, wie Anbieter eigene Sprachmodelle in Apples Foundation Models Framework einbinden können. Der Autor stellt klar, dass die Nutzung eines eigenen Modells nicht zwingend Foundation Models voraussetzt: Anwendungen können Anbieter-APIs weiterhin direkt aufrufen. Die beschriebene Integration soll vor allem Entwicklern ermöglichen, Modelle verschiedener Anbieter über eine möglichst einheitliche Schnittstelle anzusprechen.
Als Grundaufbau nennt der Beitrag drei Elemente. Das `LanguageModel`-Protokoll verbindet das Modell mit dem Framework und wird einer `LanguageModelSession` übergeben. Ein zugehöriger `LanguageModelExecutor` verarbeitet die Anfragen: Er übersetzt Framework-Daten in das Format des Anbieters, ruft einen Server oder eine lokale Inferenz-Engine auf und gibt Ergebnisse gegebenenfalls gestreamt zurück. Jedes Modell ist laut Darstellung genau einem Executor-Typ zugeordnet. Die `executorConfiguration` enthält Parameter für die Anbindung, etwa Modellkennung und API-Schlüssel. Der Autor weist darauf hin, dass Einstellungen wie Temperatur und Tokenlimit auch über Framework-Optionen verfügbar sein können. Werden sie zusätzlich in der eigenen Konfiguration angeboten, sollte laut Beitrag festgelegt werden, welche Einstellung Vorrang hat.
Für Entwickler, die das Modell verwenden, soll außerdem erkennbar sein, welche Funktionen es unterstützt. Dafür nennt der Artikel die Eigenschaften und Methoden `capabilities`, `supportsDataAttachmentType(_:)` und `supportsDataEntryType(_:)`. Zu den beispielhaften Fähigkeiten gehören Werkzeugaufrufe, strukturierte Ausgabe, Schlussfolgern und Bildverarbeitung. Der Autor sagt, das Framework werfe automatisch einen Fehler, wenn eine nicht unterstützte Fähigkeit verwendet wird. Die beiden Methoden prüfen die Unterstützung bestimmter Datentypen als Anhang beziehungsweise Eingabe.
Das Beispiel implementiert einen Echo-Dienst, der Nutzereingaben zurückgibt. Es demonstriert, wie der Executor Text, strukturierte Inhalte sowie Bild- und Datenanhänge verarbeitet und über einen Antwortkanal Text, Begründungsereignisse oder Anhänge sendet. Der Artikel zeigt außerdem eine `prewarm`-Methode, die etwa zum Laden von Ressourcen oder Vorbereiten von Caches dienen könne. Das Beispiel ruft keine echte Anbieter-API auf; der Autor bezeichnet es ausdrücklich als vereinfachte Demonstration.
Das Modellbeispiel weist Fähigkeiten abhängig von der Modellkennung aus und erlaubt Bild- und Textdatentypen. Die Unterstützung für Dateneinträge und -anhänge ist im Code mit einem Hinweis auf OS 27.2 oder neuer versehen. In der Nutzung erstellt der Entwickler eine `LanguageModelSession` mit dem Modell und ruft eine Antwortmethode auf. Laut Autor erzeugt das Framework den passenden Executor intern anhand der Modellkonfiguration; ihn müssen weder der Anbieterwrapper noch der Nutzer des Modells ausdrücklich anlegen.
Der Beitrag liefert damit eine konzeptionelle Einführung und umfangreiche Swift-Beispiele. Er demonstriert jedoch keine tatsächliche Verbindung zu einem Modellanbieter und berichtet keine Tests, Messwerte oder Ergebnisse einer produktiven Integration. Aussagen über die Framework-Funktionen und die automatische Fehlerbehandlung sind Darstellungen des Autors; der Text enthält keine unabhängige Überprüfung dieser Aussagen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat die Einordnung nach den Stufen 4, 3 und 1 vergeben und Anteile in Prozent angegeben; die Anteile sind nicht Teil der Skala und wurden hier nicht übernommen. Die Einordnung stützt sich nur auf den Bericht, nicht auf Lunas Begründungen, da keine Begründungen angegeben waren. Die Teilfragen-Liste war leer, daher wurde dort nichts bewertet.
Im Bericht, aber nicht in der Zusammenfassung
- Ein Modell ist genau einem Executor-Typ zugeordnet, und das Framework erzeugt den Executor über init(configuration:) aus der executorConfiguration.
- Der Executor muss die Konfiguration nicht speichern, weil sie über das Modell zugänglich ist; die init-Methode eignet sich etwa für einen wiederverwendbaren HTTP-Client.
- Die Anfrage bündelt Verlauf, Werkzeuge, GenerationOptions und ContextOptions; die Antwort wird über einen Kanal gestreamt, also als Text, Reasoning oder Anhang.
- Der Autor verweist auf ClaudeForFoundationModels von Anthropic als Beispiel dafür, dass Anbieter ihre Modelle selbst anbinden.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 78 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 23 %einzelne zitierbare Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 35 %einzelne zitierbare Belege
- JEV 25 %nur am Rande erwähnt
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 38 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt