Providers

LM Studio

LM Studio voert llama.cpp- (GGUF) of MLX-modellen lokaal uit, als GUI-app of de headless llmster-daemon. Raadpleeg lmstudio.ai voor installatie- en productdocumentatie.

Snel aan de slag

  • Installeer en start de server

    Installeer LM Studio (desktop) of llmster (headless) en start vervolgens de server:

    bash
    lms server start --port 1234

    Of voer de headless daemon uit:

    bash
    lms daemon up

    Als je de desktop-app gebruikt, schakel je JIT in om modellen soepel te laden; raadpleeg de LM Studio-handleiding voor JIT en TTL.

  • Stel een API-sleutel in als authenticatie is ingeschakeld

    bash
    export LM_API_TOKEN="your-lm-studio-api-token"

    Als LM Studio-authenticatie is uitgeschakeld, laat je de API-sleutel tijdens de configuratie leeg. Raadpleeg LM Studio-authenticatie.

  • Voer de onboarding uit

    bash
    openclaw onboard

    Kies LM Studio en selecteer vervolgens een model bij de prompt Default model.

    Bij een nieuwe begeleide configuratie bevraagt OpenClaw eerst /api/v1/models op de standaard of geconfigureerde LM Studio-host. Een bestaand LLM wordt alleen automatisch aangeboden wanneer LM Studio training voor tools en ten minste 16K effectieve context rapporteert. Voor geladen modellen heeft de context van de geladen instantie voorrang op het grotere geadverteerde maximum. Dezelfde configuratieladder voor CLI/macOS verifieert de route met een echte voltooiing voordat deze wordt opgeslagen. De automatische controle downloadt nooit een model en negeert catalogusitems die uitsluitend voor embeddings zijn bedoeld.

  • Wijzig het standaardmodel later:

    bash
    openclaw models set lmstudio/qwen/qwen3.5-9b

    LM Studio-modelsleutels gebruiken de indeling author/model-name (bijv. qwen/qwen3.5-9b); OpenClaw-modelverwijzingen voegen de provider ervoor: lmstudio/qwen/qwen3.5-9b. Vind de exacte sleutel voor een model door de onderstaande opdracht uit te voeren en naar het veld key te kijken:

    bash
    curl http://localhost:1234/api/v1/models

    Niet-interactieve onboarding

    bash
    openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

    Of geef de basis-URL, het model en de API-sleutel expliciet op:

    bash
    openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

    --custom-model-id gebruikt de modelsleutel zoals die door LM Studio wordt geretourneerd (bijv. qwen/qwen3.5-9b), zonder het providerprefix lmstudio/. Geef --lmstudio-api-key door (of stel LM_API_TOKEN in) voor geauthenticeerde servers; laat dit weg voor niet-geauthenticeerde servers, waarna OpenClaw in plaats daarvan een lokale, niet-geheime markering opslaat. --custom-api-key wordt voor compatibiliteit nog steeds geaccepteerd, maar --lmstudio-api-key heeft de voorkeur.

    Hiermee wordt models.providers.lmstudio geschreven en wordt het standaardmodel ingesteld op lmstudio/<custom-model-id>. Als je een API-sleutel opgeeft, wordt ook het authenticatieprofiel lmstudio:default geschreven.

    Bij interactieve configuratie kan bovendien om een gewenste contextlengte voor het laden worden gevraagd; deze wordt toegepast op alle gedetecteerde modellen die in de configuratie worden opgeslagen.

    Configuratie

    Compatibiliteit van gebruiksgegevens bij streaming

    LM Studio geeft bij gestreamde reacties niet altijd een OpenAI-vormig usage-object terug. OpenClaw herstelt de tokenaantallen in plaats daarvan uit metadata in llama.cpp-stijl: timings.prompt_n / timings.predicted_n. Elk OpenAI-compatibel eindpunt dat als lokaal eindpunt wordt herkend (loopback-host), krijgt dezelfde fallback. Dit omvat andere lokale backends, zoals vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI en text-generation-webui.

    Compatibiliteit voor denkprocessen

    Wanneer de detectie via /api/v1/models van LM Studio modelspecifieke redeneeropties rapporteert, stelt OpenClaw overeenkomende reasoning_effort-waarden (none, minimal, low, medium, high, xhigh) beschikbaar in de compatibiliteitsmetadata van het model. Sommige LM Studio-builds adverteren een binaire UI-optie (allowed_options: ["off", "on"]), maar weigeren die letterlijke waarden op /v1/chat/completions; OpenClaw normaliseert die binaire vorm naar de schaal met zes niveaus voordat verzoeken worden verzonden, ook voor oudere opgeslagen configuraties die nog steeds redeneertoewijzingen met off/on bevatten.

    Expliciete configuratie

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Vooraf laden uitschakelen

    LM Studio ondersteunt just-in-time (JIT) laden van modellen, waarbij modellen bij het eerste verzoek worden geladen. OpenClaw laadt modellen standaard vooraf via het ingebouwde laadeindpunt van LM Studio, wat helpt wanneer JIT is uitgeschakeld. Als je in plaats daarvan LM Studio's JIT, TTL bij inactiviteit en automatische verwijdering de levenscyclus van modellen wilt laten beheren, schakel je de stap voor vooraf laden van OpenClaw uit:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    LAN- of tailnet-host

    Gebruik het bereikbare adres van de LM Studio-host, behoud /v1 en zorg ervoor dat LM Studio op die machine niet alleen aan loopback is gebonden:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    lmstudio vertrouwt automatisch het geconfigureerde eindpunt voor modelverzoeken, waaronder loopback-, LAN- en tailnet-hosts (met uitzondering van metadata-/link-local-oorsprongen). Elke aangepaste/lokale OpenAI-compatibele providervermelding krijgt hetzelfde vertrouwen voor de exacte oorsprong. Voor verzoeken naar een andere privéhost of -poort blijft models.providers.<id>.request.allowPrivateNetwork: true vereist; stel dit in op false om het standaardvertrouwen uit te schakelen.

    Problemen oplossen

    LM Studio niet gedetecteerd

    Controleer of LM Studio actief is:

    bash
    lms server start --port 1234

    Als authenticatie is ingeschakeld, stel je ook LM_API_TOKEN in. Controleer of de API bereikbaar is:

    bash
    curl http://localhost:1234/api/v1/models

    Authenticatiefouten (HTTP 401)

    • Controleer of LM_API_TOKEN overeenkomt met de sleutel die in LM Studio is geconfigureerd.
    • Raadpleeg LM Studio-authenticatie.
    • Als de server geen authenticatie vereist, laat je de sleutel tijdens de configuratie leeg.

    Gerelateerd

    Was this useful?
    On this page

    On this page