快速开始

LM Studio

LM Studio 在本地运行 llama.cpp(GGUF)或 MLX 模型,可作为 GUI 应用或无界面的 llmster 守护进程运行。有关安装和产品文档,请参阅 lmstudio.ai

快速开始

  • 安装并启动服务器

    安装 LM Studio(桌面版)或 llmster(无界面版),然后启动服务器:

    bash
    lms server start --port 1234

    或运行无界面守护进程:

    bash
    lms daemon up

    如果使用桌面应用,请启用 JIT 以顺畅加载模型;请参阅 LM Studio JIT 和 TTL 指南

  • 如果启用了身份验证,请设置 API 密钥

    bash
    export LM_API_TOKEN="your-lm-studio-api-token"

    如果已禁用 LM Studio 身份验证,请在设置期间将 API 密钥留空。请参阅 LM Studio 身份验证

  • 运行新手引导

    bash
    openclaw onboard

    选择 LM Studio,然后在 Default model 提示中选择一个模型。

  • 稍后更改默认模型:

    bash
    openclaw models set lmstudio/qwen/qwen3.5-9b

    LM Studio 模型键使用 author/model-name 格式(例如 qwen/qwen3.5-9b);OpenClaw 模型引用会在其前面添加提供商:lmstudio/qwen/qwen3.5-9b。运行以下命令并查看 key 字段,即可找到模型的确切键:

    bash
    curl http://localhost:1234/api/v1/models

    非交互式新手引导

    bash
    openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

    或者明确指定基础 URL、模型和 API 密钥:

    bash
    openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

    --custom-model-id 接受 LM Studio 返回的模型键(例如 qwen/qwen3.5-9b),不包含 lmstudio/ 提供商前缀。对于需要身份验证的服务器,请传入 --lmstudio-api-key(或设置 LM_API_TOKEN);对于无需身份验证的服务器,请省略该参数,OpenClaw 将改为存储一个本地非机密标记。为保持兼容性,仍接受 --custom-api-key,但推荐使用 --lmstudio-api-key

    这会写入 models.providers.lmstudio,并将默认模型设置为 lmstudio/<custom-model-id>。提供 API 密钥还会写入 lmstudio:default 身份验证配置文件。

    交互式设置还可以提示你选择首选的加载上下文长度,并将其应用到已发现且保存至配置的所有模型。

    配置

    流式用量兼容性

    LM Studio 并不总是在流式响应中发出符合 OpenAI 格式的 usage 对象。OpenClaw 会改为从 llama.cpp 风格的 timings.prompt_n / timings.predicted_n 元数据中恢复令牌计数。任何被解析为本地端点(回环主机)的 OpenAI 兼容端点都会获得相同的回退处理,因此也涵盖 vLLM、SGLang、llama.cpp、LocalAI、Jan、TabbyAPI 和 text-generation-webui 等其他本地后端。

    思考兼容性

    当 LM Studio 的 /api/v1/models 设备发现报告模型特定的推理选项时,OpenClaw 会在模型兼容性元数据中公开对应的 reasoning_effort 值(noneminimallowmediumhighxhigh)。某些 LM Studio 版本会声明一个二元 UI 选项(allowed_options: ["off", "on"]),但在 /v1/chat/completions 上拒绝这些字面值;OpenClaw 会在发送请求前将该二元形式规范化为六级刻度,包括仍保留 off/on 推理映射的旧版已保存配置。

    显式配置

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    禁用预加载

    LM Studio 支持即时(JIT)模型加载,即在首次请求时加载模型。默认情况下,OpenClaw 会通过 LM Studio 的原生加载端点预加载模型,这在禁用 JIT 时很有帮助。若要改由 LM Studio 的 JIT、空闲 TTL 和自动驱逐行为管理模型生命周期,请禁用 OpenClaw 的预加载步骤:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    局域网或 tailnet 主机

    使用可访问的 LM Studio 主机地址,保留 /v1,并确保该计算机上的 LM Studio 不仅绑定到回环地址:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    lmstudio 会自动信任其配置的端点以发送模型请求,包括回环、局域网和 tailnet 主机(元数据/链路本地来源除外)。任何自定义/本地 OpenAI 兼容提供商条目都会获得相同的精确来源信任。向其他私有主机或端口发送请求时,仍需设置 models.providers.<id>.request.allowPrivateNetwork: true;将其设置为 false 可选择退出默认信任。

    故障排查

    未检测到 LM Studio

    确保 LM Studio 正在运行:

    bash
    lms server start --port 1234

    如果启用了身份验证,还需设置 LM_API_TOKEN。验证 API 是否可访问:

    bash
    curl http://localhost:1234/api/v1/models

    身份验证错误(HTTP 401)

    • 检查 LM_API_TOKEN 是否与 LM Studio 中配置的密钥一致。
    • 请参阅 LM Studio 身份验证
    • 如果服务器不需要身份验证,请在设置期间将密钥留空。

    相关内容

    Was this useful?
    On this page

    On this page