Swift: Streaming OpenAI API Response (Chunked Encoding Transfer)
Zusammenfassung
Kurz
Der Artikel demonstriert eine SwiftUI-Anwendung, die OpenAI-Antworten über `URLSession.shared.bytes` schrittweise empfängt, SSE-Zeilen dekodiert und den Text fortlaufend anzeigt. Der Autor weist auf mögliche geteilte JSON-Daten und API-Fehler hin; die Lösung bleibt eine einfache Demo ohne belegte systematische Prüfung, und der mögliche Teilungsfall wurde laut Autor selbst nicht beobachtet.
Mittel
Der Bericht zeigt anhand einer SwiftUI-Demo, wie sich Antworten der OpenAI-Chat-Completions-API während ihrer Erzeugung darstellen lassen. Für den Request empfiehlt der Autor `URLSession.shared.bytes(for:)`, dessen asynchrone Zeilen fortlaufend verarbeitet werden können. `URLSession.shared.data(for:)` liefere dagegen laut Artikel die Antwort erst vollständig, auch wenn der Inhalt streamartig aussieht.
Die Zeilen werden als Server-Sent Events mit JSON-Daten interpretiert. Der Beispielcode dekodiert Antwortteile, ergänzt den empfangenen Text in der Oberfläche und erkennt `data: [DONE]` als Ende. Er behandelt leere `delta`-Objekte, API-Fehler und einen Puffer für möglicherweise über mehrere Zeilen verteiltes JSON. Der Autor sagt, diesen Teilungsfall selbst nicht beobachtet zu haben.
Die Demo zeigt Status und bisherigen Text an und sperrt die Schaltfläche während des Streams. Der Bericht betont, dass SSE-Parsing sorgfältig behandelt werden muss. Er beschreibt jedoch nur ein einfaches Beispiel: Eine systematische Prüfung oder Produktionsreife wird nicht belegt, und Netzwerkfehler werden teilweise pauschal eingeordnet. Auch ist im gezeigten Ablauf nicht für jeden Fehler- oder Abbruchfall ein Zurücksetzen des Streaming-Status zu sehen.
Ausführlich lesen
Der Bericht erklärt, wie eine SwiftUI-Anwendung Antworten der OpenAI-Chat-Completions-API während ihrer Erzeugung empfangen und anzeigen kann. Als Beispiel dient eine Anfrage, die das Modell auffordert, „This is a test“ zehnmal auszugeben. Der Autor stellt den Ansatz als grundsätzlich auch auf andere Endpunkte mit aktiviertem Transfer-Encoding übertragbar dar.
Für die Anfrage zeigt der Bericht Codable-Modelle für Nachrichten und Rollen sowie einen RequestManager, der eine POST-Anfrage mit JSON-Body und Bearer-Token erstellt. Der zentrale Vorschlag ist `URLSession.shared.bytes(for:)`: Laut Artikel liefert diese Methode einen asynchronen Byte-Stream, dessen Zeilen sich mit `asyncBytes.lines` fortlaufend verarbeiten lassen. Dagegen liefere `URLSession.shared.data(for:)` die Antwort trotz eines streamartig wirkenden Textinhalts erst gesammelt zurück.
Die empfangenen Zeilen werden als Server-Sent Events behandelt. Der Artikel zeigt beispielhafte JSON-Daten mit einem `choices`-Eintrag und einem `delta`, dessen `content` den jeweils neuen Text enthalten kann. Ein leeres `delta` sei ebenfalls möglich; das Stream-Ende werde durch `data: [DONE]` markiert. Für die Verarbeitung schlägt der Autor Codable-Antwortmodelle und ein eigenes Decoding leerer `delta`-Objekte als `nil` vor. Zusätzlich beschreibt er ein Modell für API-Fehler, deren Meldung als Zeichenkette oder Zeichenkettenliste eintreffen könne.
Die Parsing-Funktion verbindet eine gegebenenfalls gepufferte Teilantwort mit der nächsten Zeile, trennt den Text anhand von `data:`, ignoriert leere Einträge und beendet die Verarbeitung bei `[DONE]`. Gültige Antwortteile werden dekodiert und ihr Text wird ausgegeben. Schlägt das Dekodieren fehl, unterscheidet der Beispielcode zwischen einer API-Fehlermeldung, möglicherweise unvollständigem JSON am Ende einer Zeile und sonstigen Parsing-Fehlern. Für den Fall einer geteilten JSON-Antwort speichert er den letzten Teil im Puffer. Der Autor merkt ausdrücklich an, diesen Sonderfall selbst noch nicht beobachtet zu haben; er hält ihn aber für möglich.
Für die Oberfläche ergänzt das Beispiel veröffentlichte Zustände für den Streaming-Status und den bisher empfangenen Inhalt. Beim Start wird der Text zurückgesetzt, bei jedem dekodierten Teil ergänzt und das Ende anhand des Abschlussmarkers signalisiert. Die SwiftUI-Ansicht zeigt Status und Antwort an und deaktiviert während des Streams die Schaltfläche.
Der Bericht liefert ein einfaches Demonstrationsbeispiel, keinen umfassenden Nachweis für Robustheit oder Produktionsreife. Er warnt, dass SSE nicht trivial zu parsen sei und einfache Zeilentrennung Fehler verursachen könne. Die gezeigte Fehlerbehandlung ordnet Netzwerkfehler pauschal einem Timeout und Statusfehler einem allgemeinen Fehler zu. Außerdem zeigt der Code zwar eine Funktion zum Zurücksetzen des Streaming-Status, aber im Ablauf keinen Aufruf für alle Fehler- oder Abbruchfälle. Ein Schlüsselplatzhalter muss ersetzt werden. Die dargestellten Ergebnisse beruhen auf Codebeispielen und Screenshots beziehungsweise GIFs; im Bericht wird keine systematische Prüfung beschrieben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Es wurden keine Fragen zur Einordnung angegeben, weder Sammelfragen noch Teilfragen. Deshalb bleibt die Liste einordnung leer. Die Prüfung bezieht sich nur auf die Zusammenfassung, wobei die Kurzfassung und die mittlere Fassung gemeinsam betrachtet wurden.
Im Bericht, aber nicht in der Zusammenfassung
- Die Kurzfassung nennt nicht die zentrale Kernaussage des Autors, dass URLSession.shared.data die Antwort nicht streamt, sondern erst vollständig liefert.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Aussage, Netzwerkfehler würden pauschal eingeordnet, steht so nicht im Bericht; sie ist eine Ableitung aus dem Beispielcode.
- Die Bewertung, im Ablauf fehle das Zurücksetzen des Streaming-Status, ist eine Eigenkritik von Luna und kein Befund des Berichts.
- Die Formulierung ohne belegte systematische Prüfung stützt sich nur auf den Metadaten-Vermerk „unauffaellig“, nicht auf eine Aussage des Autors.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug