LM Studio

LM Studio menjalankan model llama.cpp (GGUF) atau MLX secara lokal, sebagai aplikasi GUI atau daemon llmster tanpa antarmuka grafis. Untuk dokumentasi instalasi dan produk, lihat lmstudio.ai.

Mulai cepat

lms server start --port 1234

lms daemon up

export LM_API_TOKEN="your-lm-studio-api-token"

openclaw onboard

Ubah model default nanti:

openclaw models set lmstudio/qwen/qwen3.5-9b

Kunci model LM Studio menggunakan format author/model-name (misalnya qwen/qwen3.5-9b); referensi model OpenClaw menambahkan penyedia di awal: lmstudio/qwen/qwen3.5-9b. Temukan kunci yang tepat untuk suatu model dengan menjalankan perintah berikut dan melihat bidang key:

curl http://localhost:1234/api/v1/models

Orientasi awal noninteraktif

openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

Atau tentukan URL dasar, model, dan kunci API secara eksplisit:

openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

--custom-model-id menerima kunci model yang dikembalikan oleh LM Studio (misalnya qwen/qwen3.5-9b), tanpa awalan penyedia lmstudio/. Berikan --lmstudio-api-key (atau tetapkan LM_API_TOKEN) untuk server yang menggunakan autentikasi; abaikan untuk server tanpa autentikasi dan OpenClaw akan menyimpan penanda lokal nonrahasia sebagai gantinya. --custom-api-key masih diterima demi kompatibilitas, tetapi --lmstudio-api-key lebih disarankan.

Ini menulis models.providers.lmstudio dan menetapkan model default ke lmstudio/<custom-model-id>. Memberikan kunci API juga akan menulis profil autentikasi lmstudio:default.

Penyiapan interaktif juga dapat meminta panjang konteks pemuatan yang diinginkan dan menerapkannya ke seluruh model yang ditemukan dan disimpan ke konfigurasi.

Konfigurasi

Kompatibilitas penggunaan streaming

LM Studio tidak selalu menghasilkan objek usage berbentuk OpenAI pada respons yang dialirkan. OpenClaw memulihkan jumlah token dari metadata bergaya llama.cpp timings.prompt_n / timings.predicted_n sebagai gantinya. Setiap titik akhir yang kompatibel dengan OpenAI dan ditetapkan sebagai titik akhir lokal (host local loopback) memperoleh mekanisme cadangan yang sama, yang mencakup backend lokal lain seperti vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI, dan text-generation-webui.

Kompatibilitas penalaran

Saat penemuan /api/v1/models LM Studio melaporkan opsi penalaran khusus model, OpenClaw menyediakan nilai reasoning_effort yang sesuai (none, minimal, low, medium, high, xhigh) dalam metadata kompatibilitas model. Beberapa versi LM Studio menampilkan opsi UI biner (allowed_options: ["off", "on"]) tetapi menolak nilai literal tersebut pada /v1/chat/completions; OpenClaw menormalkan bentuk biner tersebut ke skala enam tingkat sebelum mengirim permintaan, termasuk untuk konfigurasi lama tersimpan yang masih memiliki pemetaan penalaran off/on.

Konfigurasi eksplisit

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

Menonaktifkan pramuat

LM Studio mendukung pemuatan model tepat waktu (JIT), yaitu memuat model pada permintaan pertama. Secara default, OpenClaw memuat model terlebih dahulu melalui titik akhir pemuatan native LM Studio, yang membantu saat JIT dinonaktifkan. Agar JIT, TTL saat tidak aktif, dan perilaku pengeluaran otomatis LM Studio yang mengelola siklus hidup model, nonaktifkan langkah pramuat OpenClaw:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

Host LAN atau tailnet

Gunakan alamat host LM Studio yang dapat dijangkau, pertahankan /v1, dan pastikan LM Studio terikat di luar loopback pada mesin tersebut:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

lmstudio secara otomatis memercayai titik akhir yang dikonfigurasi untuk permintaan model, termasuk host loopback, LAN, dan tailnet (kecuali asal metadata/link-local). Setiap entri penyedia kustom/lokal yang kompatibel dengan OpenAI mendapatkan kepercayaan asal-persis yang sama. Permintaan ke host privat atau porta yang berbeda tetap memerlukan models.providers.<id>.request.allowPrivateNetwork: true; tetapkan ke false untuk menolak kepercayaan default.

Pemecahan masalah

LM Studio tidak terdeteksi

Pastikan LM Studio sedang berjalan:

lms server start --port 1234

Jika autentikasi diaktifkan, tetapkan juga LM_API_TOKEN. Verifikasi bahwa API dapat dijangkau:

curl http://localhost:1234/api/v1/models

Kesalahan autentikasi (HTTP 401)

• Periksa bahwa LM_API_TOKEN cocok dengan kunci yang dikonfigurasi di LM Studio.
• Lihat Autentikasi LM Studio.
• Jika server tidak memerlukan autentikasi, biarkan kunci kosong selama penyiapan.

Terkait

• Pemilihan model
• Ollama
• Model lokal