Providers

ds4

ds4 stellt DeepSeek V4 Flash über ein lokales Metal-Backend mit einer OpenAI-kompatiblen /v1-API bereit. OpenClaw verbindet sich mit ds4 über die generische openai-completions-Provider-Familie.

ds4 ist kein mitgeliefertes OpenClaw-Provider-Plugin. Konfigurieren Sie es unter models.providers.ds4 und wählen Sie anschließend ds4/deepseek-v4-flash aus.

Eigenschaft	Wert
Provider-ID	`ds4`
Plugin	keines (nur Konfiguration)
API	OpenAI-kompatible Chat Completions (`openai-completions`)
Basis-URL	`http://127.0.0.1:18000/v1` (empfohlen)
Modell-ID	`deepseek-v4-flash`
Tool-Aufrufe	OpenAI-Stil `tools` / `tool_calls`
Reasoning	DeepSeek-Stil `thinking` und `reasoning_effort`

Anforderungen

macOS mit Metal-Unterstützung.
Ein funktionsfähiger ds4-Checkout mit ds4-server und der GGUF-Datei für DeepSeek V4 Flash.
Ausreichend Arbeitsspeicher für den gewählten Kontext; größere --ctx-Werte weisen beim Serverstart mehr KV-Speicher zu.

Schnellstart

ds4-server starten

Ersetzen Sie <DS4_DIR> durch den Pfad zu Ihrem ds4-Checkout.

bash

<DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

OpenAI-kompatiblen Endpunkt überprüfen

bash

curl http://127.0.0.1:18000/v1/models

Die Antwort sollte deepseek-v4-flash enthalten.

OpenClaw-Provider-Konfiguration hinzufügen

Fügen Sie die Konfiguration aus Vollständige Konfiguration hinzu und führen Sie anschließend eine einmalige Modellprüfung aus:

bash

openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Antworten Sie exakt mit: openclaw-ds4-ok" \  --json

Vollständige Konfiguration

Verwenden Sie diese Konfiguration, wenn ds4 bereits unter 127.0.0.1:18000 ausgeführt wird.

json5

{  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 lokal",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

Halten Sie contextWindow mit ds4-server --ctx synchron. Halten Sie maxTokens mit --tokens synchron, sofern OpenClaw nicht absichtlich weniger Ausgabe als den Serverstandard anfordern soll.

Bedarfsgesteuerter Start

OpenClaw kann ds4 nur starten, wenn ein ds4/...-Modell ausgewählt ist. Fügen Sie localService demselben Provider-Eintrag hinzu:

json5

{  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

command muss ein absoluter Pfad zu einer ausführbaren Datei sein. Shell-Suche und ~-Erweiterung werden nicht verwendet. Unter Lokale Modelldienste finden Sie alle localService-Felder.

Think Max

ds4 wendet Think Max nur an, wenn beides zutrifft:

ds4-server beginnt mit --ctx 393216 oder höher.
Die Anfrage verwendet reasoning_effort: "max" (oder das entsprechende ds4-Aufwandsfeld).

Wenn Sie diesen großen Kontext verwenden, aktualisieren Sie sowohl die Server-Flags als auch die OpenClaw-Modellmetadaten:

json5

{  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

Test

Direkte HTTP-Prüfung unter Umgehung von OpenClaw:

bash

curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Antworten Sie exakt mit: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

OpenClaw-Modellrouting (wie bei der Schnellstartprüfung):

bash

openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Antworten Sie exakt mit: openclaw-ds4-ok" \  --json

Vollständiger Smoke-Test für Agent und Tool-Aufrufe mit einem Kontext von mindestens 32768:

bash

openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Verwenden Sie den Shell-Befehl pwd einmal und antworten Sie anschließend exakt mit: tool-ok <output>" \  --json \  --timeout 240

Erwartetes Ergebnis:

executionTrace.winnerProvider ist ds4
executionTrace.winnerModel ist deepseek-v4-flash
toolSummary.calls ist mindestens 1
finalAssistantVisibleText beginnt mit tool-ok

Fehlerbehebung

curl /v1/models kann keine Verbindung herstellen

ds4 wird nicht ausgeführt oder ist nicht an den Host/Port in baseUrl gebunden. Starten Sie ds4-server und versuchen Sie es anschließend erneut:

bash

curl http://127.0.0.1:18000/v1/models

500 – Prompt überschreitet den Kontext

Der konfigurierte Wert --ctx ist für den OpenClaw-Durchlauf zu klein. Erhöhen Sie ds4-server --ctx und aktualisieren Sie anschließend models.providers.ds4.models[].contextWindow entsprechend. Vollständige Agent-Durchläufe mit Tools benötigen erheblich mehr Kontext als eine direkte curl-Anfrage mit einer einzelnen Nachricht.

Think Max wird nicht aktiviert

ds4 verwendet Think Max nur, wenn --ctx mindestens 393216 beträgt und die Anfrage reasoning_effort: "max" anfordert. Bei kleineren Kontexten wird auf hohes Reasoning zurückgegriffen.

Die erste Anfrage ist langsam

ds4 durchläuft eine kalte Metal-Residenz- und Modellaufwärmphase. Legen Sie localService.readyTimeoutMs: 300000 fest, wenn OpenClaw den Server bei Bedarf startet.

Auf dieser Seite

ds4

Anforderungen

Schnellstart

ds4-server starten

OpenAI-kompatiblen Endpunkt überprüfen

OpenClaw-Provider-Konfiguration hinzufügen

Vollständige Konfiguration

Bedarfsgesteuerter Start

Think Max

Test

Fehlerbehebung

Verwandte Themen

Molty