OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4 serveert DeepSeek V4 Flash vanuit een lokale Metal-backend met een OpenAI-compatibele /v1-API. OpenClaw maakt verbinding met ds4 via de generieke openai-completions-providerfamilie.

ds4 is geen gebundelde OpenClaw-provider-Plugin. Configureer het onder models.providers.ds4 en selecteer daarna ds4/deepseek-v4-flash.

  • Provider-id: ds4
  • Plugin: geen
  • API: OpenAI-compatibele Chat Completions (openai-completions)
  • Voorgestelde basis-URL: http://127.0.0.1:18000/v1
  • Model-id: deepseek-v4-flash
  • Toolaanroepen: ondersteund via OpenAI-stijl tools en tool_calls
  • Redeneren: DeepSeek-stijl thinking en reasoning_effort

Vereisten

  • macOS met Metal-ondersteuning.
  • Een werkende ds4-checkout met ds4-server en het DeepSeek V4 Flash GGUF-bestand.
  • Genoeg geheugen voor de context die je kiest. Grotere --ctx-waarden wijzen meer KV-geheugen toe wanneer de server start.

Snelstart

  • Start ds4-server

    Vervang <DS4_DIR> door het pad naar je ds4-checkout.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Controleer het OpenAI-compatibele endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    Het antwoord moet deepseek-v4-flash bevatten.

  • Voeg de OpenClaw-providerconfiguratie toe

    Voeg de configuratie uit Volledige configuratie toe en voer daarna een eenmalige modelcontrole uit:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Volledige configuratie

    Gebruik deze configuratie wanneer ds4 al draait op 127.0.0.1:18000.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    Houd contextWindow afgestemd op de waarde van ds4-server --ctx. Houd maxTokens afgestemd op --tokens, tenzij je OpenClaw bewust minder uitvoer wilt laten aanvragen dan de serverstandaard.

    Opstarten op aanvraag

    OpenClaw kan ds4 alleen starten wanneer een ds4/...-model is geselecteerd. Voeg localService toe aan dezelfde providervermelding:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command moet een absoluut pad naar een uitvoerbaar bestand zijn. Shell-lookup en ~-uitbreiding worden niet gebruikt. Zie Lokale modelservices voor elk localService-veld.

    Think Max

    ds4 past Think Max alleen toe wanneer aan beide voorwaarden is voldaan:

    • ds4-server start met --ctx 393216 of hoger.
    • De aanvraag gebruikt reasoning_effort: "max" of het equivalente ds4-effortveld.

    Als je die grote context gebruikt, werk dan zowel de serverflags als de OpenClaw-modelmetadata bij:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Testen

    Begin met een directe HTTP-controle:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    Test daarna OpenClaw-modelroutering:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    Gebruik voor een volledige agent- en toolaanroep-smoketest een context van minstens 32768:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Verwacht resultaat:

    • executionTrace.winnerProvider is ds4
    • executionTrace.winnerModel is deepseek-v4-flash
    • toolSummary.calls is minstens 1
    • finalAssistantVisibleText begint met tool-ok

    Probleemoplossing

    curl /v1/models kan geen verbinding maken

    ds4 draait niet of is niet gebonden aan de host en poort in baseUrl. Start ds4-server en probeer het daarna opnieuw:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    De geconfigureerde --ctx is te klein voor de OpenClaw-beurt. Verhoog ds4-server --ctx en werk daarna models.providers.ds4.models[].contextWindow bij zodat deze overeenkomt. Volledige agentbeurten met tools hebben aanzienlijk meer context nodig dan een directe curl-aanvraag met één bericht.

    Think Max wordt niet geactiveerd

    ds4 gebruikt Think Max alleen wanneer --ctx minstens 393216 is en de aanvraag vraagt om reasoning_effort: "max". Kleinere contexten vallen terug op hoog redeneren.

    De eerste aanvraag is traag

    ds4 heeft een koude Metal-residentie en een opwarmfase voor het model. Gebruik localService.readyTimeoutMs: 300000 wanneer OpenClaw de server op aanvraag start.

    Gerelateerd

    Lokale modelservices

    Start lokale modelservers op aanvraag voordat modelaanvragen worden gedaan.
    Lokale modellen

    Kies en beheer lokale modelbackends.
    Modelproviders

    Configureer providerrefs, auth en failover.
    DeepSeek

    Native DeepSeek-providergedrag en thinking-instellingen.
    Was this useful?
    On this page

    On this page