Build a Local AI Agent with Qwen 3.5 Small
Zusammenfassung
Kurz
Der Bericht beschreibt eine Python-Anleitung für einen sprachgesteuerten Videoanalyse-Agenten mit Qwen 3.5 Small, Ollama und Vision Agents. Zwar behauptet der Artikel, alles laufe lokal, doch sein Stack benötigt auch externe Sprachdienste und Stream; die vollständige lokale Verarbeitung und die Datenschutzversprechen werden nicht belegt.
Mittel
Der Bericht erklärt, wie man mit Ollama, Qwen 3.5 Small und Vision Agents einen Agenten zur Live-Videoanalyse mit Spracheingabe und Sprachausgabe einrichtet. Qwen wird als multimodale Modellfamilie mit 0,8 bis 9 Milliarden Parametern vorgestellt. Das Beispiel lädt einen Agenten in einen Stream-Anruf, verarbeitet laut Code ein Videobild pro Sekunde mit zehn Sekunden Frame-Puffer und antwortet auf Fragen zum Kamerabild. Die Anleitung umfasst die Plugin-Installation, das Laden eines Modells und API-Schlüssel für Stream, Deepgram und ElevenLabs.
Der Beitrag behauptet, die Modellverarbeitung laufe lokal, und wirbt mit Privatsphäre, keinen Cloud-Kosten und einer Einrichtung in weniger als fünf Minuten. Er belegt diese Versprechen jedoch nicht. Außerdem sieht der beschriebene Stack externe Dienste für Spracherkennung und Sprachsynthese sowie Stream für den Transport vor. Damit zeigt der Text nicht, dass der gesamte Ablauf lokal und ohne Cloud-Dienste stattfindet. Leistungs- und Datenschutzmessungen enthält er nicht.
Ausführlich lesen
Der Bericht zeigt, wie sich mit Qwen 3.5 Small, Ollama und dem Open-Source-Framework Vision Agents ein sprachgesteuerter Agent zur Live-Videoanalyse aufsetzen lasse. Qwen 3.5 Small wird als leichte Modellfamilie mit 0,8, 2, 4 und 9 Milliarden Parametern beschrieben. Laut Beitrag unterstütze sie multimodale Eingaben und Werkzeugaufrufe und könne auf Laptops, Macs sowie mobilen oder IoT-Geräten laufen. Ein verlinktes Demo zeige demnach das 2B-Modell, das eine Person im Kamerabild beschreibe.
Der Beitrag nennt als Bausteine Qwen über Ollama für Sprachmodell und Bildverarbeitung, Deepgram für Spracherkennung, ElevenLabs für Sprachsynthese, Smart-Turn zur Erkennung von Gesprächswechseln und Stream WebRTC als Transport. Zum Einrichten soll man Vision Agents samt den passenden Plugins installieren, Ollama starten und das Modell laden. Anschließend beschreibt der Bericht ein Python-Beispiel: Es erstellt einen Agenten, der Videobilder mit einem Bild pro Sekunde und einem zehnsekündigen Frame-Puffer verarbeitet, einer Stream-Verbindung beitritt und eine Antwort zum Video ausgibt. Zum Starten werden unter anderem API-Schlüssel für Stream, Deepgram und ElevenLabs sowie eine Basis-URL angegeben; laut Anleitung öffnet sich daraufhin ein Browserfenster für den Anruf.
Der Artikel behauptet, die Modellverarbeitung laufe lokal und verspricht Privatsphäre, keine Cloud-Kosten und eine Einrichtung in weniger als fünf Minuten. Diese Aussagen sind im Bericht nicht näher belegt. Zugleich verwendet die angegebene Konfiguration externe Dienste für Spracherkennung, Sprachsynthese und den WebRTC-Transport und verlangt dafür API-Schlüssel. Daher belegt der Text nicht, dass sämtliche Verarbeitung lokal stattfindet oder keine Cloud-Dienste beteiligt sind. Er enthält eine Implementierungsanleitung und ein Codebeispiel, aber keine Messungen zu Geschwindigkeit, Erkennungsqualität, Hardwarebedarf oder tatsächlichem Datenschutz. Als Ressourcen verlinkt er Quellcode, Dokumentation und die verwendeten Projekte.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat drei Zusammenfassungen geliefert. Ich habe sie gemeinsam geprüft, da sie inhaltlich übereinstimmen und keine Fehler enthalten. Die Anteilswerte in Lunas Einordnung wurden nicht bewertet, weil das Schema sie nicht vorsieht. Meine Stufen weichen bei allen drei Fragen von Lunas Stufen ab, weil der Bericht diese Fragen nur am Rande berührt.
Im Bericht, aber nicht in der Zusammenfassung
- Die Demo mit dem Modell qwen3.5:2b, die laut Artikel ein Kamerabild beschreibt, wird in keiner der Zusammenfassungen erwähnt.
- Die Behauptung, der Agent laufe auch auf Mobil- und IoT-Geräten, fehlt.
- Die Abweichung zwischen der Empfehlung qwen3.5:2b und dem Code mit qwen3.5:9b wird nicht genannt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 60 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 36 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 32 %einzelne zitierbare Belege
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 41 %einzelne zitierbare Belege
- JEV 22 %nur am Rande erwähnt
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 43 %einzelne zitierbare Belege
- JEV 62 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %einzelne zitierbare Belege
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv