OpenClawDocs
Na tej stronie

Na tej stronie

View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4 udostępnia DeepSeek V4 Flash z lokalnego backendu Metal za pośrednictwem interfejsu API /v1 zgodnego z OpenAI. OpenClaw łączy się z ds4 przez ogólną rodzinę dostawców openai-completions.

ds4 nie jest dołączonym Pluginem dostawcy OpenClaw. Skonfiguruj go w models.providers.ds4, a następnie wybierz ds4/deepseek-v4-flash.

Właściwość Wartość
Identyfikator dostawcy ds4
Plugin brak (tylko konfiguracja)
API Chat Completions zgodne z OpenAI (openai-completions)
Bazowy adres URL http://127.0.0.1:18000/v1 (sugerowany)
Identyfikator modelu deepseek-v4-flash
Wywołania narzędzi tools / tool_calls w stylu OpenAI
Rozumowanie thinking i reasoning_effort w stylu DeepSeek

Wymagania

  • macOS z obsługą Metal.
  • Działająca kopia robocza ds4 z ds4-server oraz plikiem GGUF DeepSeek V4 Flash.
  • Wystarczająca ilość pamięci dla wybranego kontekstu; większe wartości --ctx przydzielają więcej pamięci KV podczas uruchamiania serwera.

Szybki start

  • Start ds4-server

    Zastąp <DS4_DIR> ścieżką do swojej kopii roboczej ds4.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Verify the OpenAI-compatible endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    Odpowiedź powinna zawierać deepseek-v4-flash.

  • Add the OpenClaw provider config

    Dodaj konfigurację z sekcji Pełna konfiguracja, a następnie uruchom jednorazowe sprawdzenie modelu:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Pełna konfiguracja

    Użyj tej konfiguracji, gdy ds4 jest już uruchomiony pod adresem 127.0.0.1:18000.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    Utrzymuj contextWindow zgodne z ds4-server --ctx. Utrzymuj maxTokens zgodne z --tokens, chyba że celowo chcesz, aby OpenClaw żądał mniejszej ilości danych wyjściowych niż domyślna wartość serwera.

    Uruchamianie na żądanie

    OpenClaw może uruchamiać ds4 tylko wtedy, gdy wybrany jest model ds4/.... Dodaj localService do tego samego wpisu dostawcy:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command musi być bezwzględną ścieżką do pliku wykonywalnego. Wyszukiwanie przez powłokę ani rozwijanie ~ nie są używane. Opis wszystkich pól localService znajdziesz w sekcji Lokalne usługi modeli.

    Think Max

    ds4 stosuje Think Max tylko wtedy, gdy oba warunki są spełnione:

    • ds4-server uruchamia się z wartością --ctx 393216 lub większą.
    • Żądanie używa reasoning_effort: "max" (lub równoważnego pola poziomu wysiłku ds4).

    Jeśli używasz tak dużego kontekstu, zaktualizuj zarówno flagi serwera, jak i metadane modelu OpenClaw:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Test

    Bezpośrednie sprawdzenie HTTP z pominięciem OpenClaw:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    Trasowanie modelu OpenClaw (takie samo jak sprawdzenie w sekcji Szybki start):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    Pełny test dymny agenta i wywołań narzędzi z kontekstem wynoszącym co najmniej 32768:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Oczekiwany wynik:

    • executionTrace.winnerProvider ma wartość ds4
    • executionTrace.winnerModel ma wartość deepseek-v4-flash
    • toolSummary.calls wynosi co najmniej 1
    • finalAssistantVisibleText zaczyna się od tool-ok

    Rozwiązywanie problemów

    curl /v1/models cannot connect

    ds4 nie jest uruchomiony albo nie nasłuchuje na hoście lub porcie określonym w baseUrl. Uruchom ds4-server, a następnie spróbuj ponownie:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    Skonfigurowana wartość --ctx jest zbyt mała dla tury OpenClaw. Zwiększ ds4-server --ctx, a następnie odpowiednio zaktualizuj models.providers.ds4.models[].contextWindow. Pełne tury agenta z narzędziami wymagają znacznie większego kontekstu niż bezpośrednie żądanie curl z pojedynczą wiadomością.

    Think Max does not activate

    ds4 używa Think Max tylko wtedy, gdy --ctx wynosi co najmniej 393216, a żądanie określa reasoning_effort: "max". Mniejsze konteksty powodują powrót do wysokiego poziomu rozumowania.

    The first request is slow

    ds4 ma fazę początkowego umieszczania w pamięci Metal i rozgrzewania modelu. Ustaw localService.readyTimeoutMs: 300000, gdy OpenClaw uruchamia serwer na żądanie.

    Powiązane

    Local model services

    Uruchamiaj lokalne serwery modeli na żądanie przed żądaniami do modeli.
    Local models

    Wybieraj i obsługuj lokalne backendy modeli.
    Model providers

    Konfiguruj odwołania do dostawców, uwierzytelnianie i przełączanie awaryjne.
    DeepSeek

    Natywne zachowanie dostawcy DeepSeek i ustawienia sterujące myśleniem.
    Was this useful?