OpenClawDocs
На цій сторінці

На цій сторінці

View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4 запускає DeepSeek V4 Flash на локальному бекенді Metal з API /v1, сумісним з OpenAI. OpenClaw підключається до ds4 через універсальне сімейство постачальників openai-completions.

ds4 не є вбудованим Plugin постачальника OpenClaw. Налаштуйте його в models.providers.ds4, а потім виберіть ds4/deepseek-v4-flash.

Властивість Значення
Ідентифікатор постачальника ds4
Plugin немає (лише конфігурація)
API Chat Completions, сумісний з OpenAI (openai-completions)
Базова URL-адреса http://127.0.0.1:18000/v1 (рекомендовано)
Ідентифікатор моделі deepseek-v4-flash
Виклики інструментів tools / tool_calls у стилі OpenAI
Міркування thinking і reasoning_effort у стилі DeepSeek

Вимоги

  • macOS із підтримкою Metal.
  • Робоча копія репозиторію ds4 із ds4-server і файлом GGUF DeepSeek V4 Flash.
  • Достатньо пам’яті для вибраного контексту; більші значення --ctx виділяють більше KV-пам’яті під час запуску сервера.

Швидкий початок

  • Start ds4-server

    Замініть <DS4_DIR> шляхом до вашої робочої копії ds4.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Verify the OpenAI-compatible endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    Відповідь має містити deepseek-v4-flash.

  • Add the OpenClaw provider config

    Додайте конфігурацію з розділу Повна конфігурація, а потім виконайте одноразову перевірку моделі:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Повна конфігурація

    Використовуйте цю конфігурацію, якщо ds4 уже працює на 127.0.0.1:18000.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    Узгоджуйте contextWindow із ds4-server --ctx. Узгоджуйте maxTokens із --tokens, якщо ви навмисно не хочете, щоб OpenClaw запитував менше вихідних даних, ніж визначено стандартним значенням сервера.

    Запуск на вимогу

    OpenClaw може запускати ds4 лише тоді, коли вибрано модель ds4/.... Додайте localService до того самого запису постачальника:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command має бути абсолютним шляхом до виконуваного файла. Пошук через оболонку та розгортання ~ не використовуються. Опис усіх полів localService див. у розділі Локальні служби моделей.

    Think Max

    ds4 застосовує Think Max лише тоді, коли виконуються обидві умови:

    • ds4-server запускається з --ctx 393216 або більшим значенням.
    • Запит використовує reasoning_effort: "max" (або еквівалентне поле зусилля ds4).

    Якщо ви використовуєте такий великий контекст, оновіть і прапорці сервера, і метадані моделі OpenClaw:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Тестування

    Пряма перевірка HTTP в обхід OpenClaw:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    Маршрутизація моделі OpenClaw (та сама перевірка, що й у швидкому початку):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    Повний димовий тест агента та виклику інструментів із контекстом щонайменше 32768:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Очікуваний результат:

    • executionTrace.winnerProvider має значення ds4
    • executionTrace.winnerModel має значення deepseek-v4-flash
    • toolSummary.calls становить щонайменше 1
    • finalAssistantVisibleText починається з tool-ok

    Усунення несправностей

    curl /v1/models cannot connect

    ds4 не запущено або він не прив’язаний до хоста чи порту, указаного в baseUrl. Запустіть ds4-server, а потім повторіть спробу:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    Налаштоване значення --ctx замале для ходу OpenClaw. Збільште ds4-server --ctx, а потім відповідно оновіть models.providers.ds4.models[].contextWindow. Повні ходи агента з інструментами потребують значно більшого контексту, ніж прямий запит curl з одним повідомленням.

    Think Max does not activate

    ds4 використовує Think Max лише тоді, коли --ctx становить щонайменше 393216, а запит вимагає reasoning_effort: "max". За меншого контексту використовується високий рівень міркування.

    The first request is slow

    ds4 має фазу холодного розміщення в Metal і прогрівання моделі. Установіть localService.readyTimeoutMs: 300000, коли OpenClaw запускає сервер на вимогу.

    Пов’язані матеріали

    Local model services

    Запускайте локальні сервери моделей на вимогу перед запитами до моделей.
    Local models

    Вибирайте й використовуйте локальні бекенди моделей.
    Model providers

    Налаштовуйте посилання на постачальників, автентифікацію та перемикання після відмови.
    DeepSeek

    Власна поведінка постачальника DeepSeek і засоби керування міркуванням.
    Was this useful?