DeepSeek R1 — The Best Local LLM Tools To Run Offline
Zusammenfassung
Kurz
Der Bericht beschreibt Anleitungen für den Offline-Betrieb von DeepSeek R1 mit LM Studio, Ollama und Jan sowie den Zugriff über mehrere Hostingdienste. Er stellt lokale Nutzung als datenschutzfreundlicher dar, weist aber darauf hin, dass Daten bei gehosteten Angeboten an den jeweiligen Anbieter gehen; Leistungs- und Sicherheitsbehauptungen werden nicht systematisch belegt.
Mittel
Der Artikel zeigt drei Möglichkeiten, DeepSeek R1 lokal und offline zu nutzen: LM Studio, Ollama und Jan. Bei LM Studio lädt man eine destillierte Modellvariante über „Discover“, bei Ollama nennt der Text den Befehl `ollama run deepseek-r1` samt Qwen- und Llama-Größen, und in Jan lassen sich GGUF-Modelle über den Hub beziehen. Der Autor stellt offline betriebene Modelle als Möglichkeit dar, Eingaben auf dem eigenen Rechner zu halten. Wer einen Hostingdienst nutzt, übermittelt Daten dagegen an diesen Anbieter, auch wenn es nicht DeepSeek ist.
Als weitere Zugangswege nennt der Bericht Groq und Azure AI Foundry sowie Fireworks AI, Together AI, OpenRouter, Abacus ChatLLM und Chutes. Er beschreibt R1 als Open Source, kostengünstiger als OpenAI o1 und leistungsmäßig vergleichbar; diese Aussagen werden im Text nicht durch eigene Tests belegt. Ebenso enthält er keine Hardwareanforderungen oder eingehende Prüfung der Datenschutzbedingungen. Die Übersicht bildet laut Autor den Stand zum Veröffentlichungszeitpunkt ab und kann mit zunehmender Unterstützung durch weitere Plattformen veralten.
Ausführlich lesen
Der Bericht beschreibt, wie sich DeepSeek R1 lokal und ohne Internet oder über externe Hostingdienste nutzen lässt. Anlass seien die Fähigkeiten des Modells, aber auch Bedenken, persönliche oder geschäftliche Daten an DeepSeek zu übermitteln. Der Autor stellt dabei zwei Wege gegenüber: Bei einem vollständig offline betriebenen Modell sollen Eingaben auf dem eigenen Rechner bleiben; bei einem Hostingdienst gehen sie stattdessen an diesen Drittanbieter. Die Wahl eines anderen Anbieters beseitigt demnach nicht jede Weitergabe.
DeepSeek R1 wird als Modell mit Schlussfolgerungsfähigkeiten für anspruchsvolle Aufgaben etwa in Mathematik, Programmierung und Wissenschaft vorgestellt. Der Artikel sagt, es gebe ein Basismodell sowie sechs kleinere, mit Qwen- oder Llama-Modellen verfeinerte Varianten. Er bezeichnet R1 als Open Source, kostengünstiger als OpenAI o1 und in der Leistung vergleichbar. Das sind Einschätzungen und Aussagen des Artikels; ein eigener Leistungsvergleich oder eine Prüfung der Datenschutzpraktiken wird nicht vorgelegt. Der Autor räumt zudem ein, dass es Fehlinformationen über DeepSeek gebe, und hält den gehosteten Chat für ein brauchbares Werkzeug, weist aber auf mögliche Datensammlung zur Verbesserung der Modelle hin.
Für den lokalen Einsatz nennt der Beitrag drei Anwendungen. In LM Studio könne man über die Registerkarte „Discover“ destillierte R1-Varianten finden, herunterladen und ausführen. Ollama ermögliche den Start laut Anleitung mit `ollama run deepseek-r1`; anschließend listet der Artikel Qwen-Versionen mit 1,5B, 7B, 14B und 32B Parametern sowie Llama-Versionen mit 8B und 70B. Jan wird als weitere lokale Chat-Anwendung beschrieben: Dort sollen Nutzer im Hub nach GGUF-Dateien auf Hugging Face suchen und eine der aufgeführten destillierten Varianten herunterladen. Die Beispiele und Schritte erklären die genannten Werkzeuge, enthalten jedoch keine Angaben zu benötigter Hardware, Geschwindigkeit, Modellqualität im Vergleich oder konkreten Sicherheitsprüfungen.
Als gehostete Alternativen führt der Bericht Groq, Azure AI Foundry, Fireworks AI, Together AI, OpenRouter, Abacus ChatLLM und Chutes auf. Für Groq nennt er die destillierte Llama-70B-Version und beschreibt den Zugriff über die Website oder die Entwicklerkonsole. Azure AI Foundry biete destillierte Varianten. Der Beitrag verweist außerdem auf weitere Anbieter, ohne deren Bedingungen im Einzelnen zu vergleichen.
Der Artikel ist eine praktische Übersicht mit Anleitungen und Verweisen, keine systematische Untersuchung. Seine Aussagen zum verfügbaren Angebot beziehen sich ausdrücklich auf den Zeitpunkt der Veröffentlichung und sollen gelegentlich aktualisiert werden. Zwar erwartet der Autor künftig weitere Modelle und Plattformen, doch bleibt das eine Prognose. Die genannten Hostingdienste werden als vertrauenswürdig beziehungsweise zuverlässig und sicher charakterisiert, aber der Text belegt diese Einschätzung nicht durch Prüfungen oder Vergleichsdaten.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Teilfragen wurden nicht angegeben. Die beiden Zusammenfassungen wurden gemeinsam bewertet, da das Schema nur eine Zusammenfassung vorsieht.
Im Bericht, aber nicht in der Zusammenfassung
- Der Artikel behauptet, Hosting-Plattformen wie Azure AI Foundry und Groq sicherten Zuverlässigkeit und Sicherheit ihrer Modelle; das wird in beiden Zusammenfassungen nicht erwähnt.
- Die Begründung für Datenschutzbedenken gegenüber DeepSeek, nämlich Sitz in China und mögliche Datennutzung zum Training des gehosteten DeepSeek Chat, fehlt in beiden Fassungen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 31 %Hintergrund, keine Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 45 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 34 %nur am Rande erwähnt
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 33 %nur am Rande erwähnt
- amos 30 %nur am Rande erwähnt
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 42 %einzelne zitierbare Belege
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 59 %einzelne zitierbare Belege
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung Hintergrund, keine Belege
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 46 %einzelne zitierbare Belege
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv