LM Studio

LM Studio, llama.cpp (GGUF) या MLX मॉडल स्थानीय रूप से GUI ऐप या हेडलेस llmster डेमन के रूप में चलाता है। इंस्टॉलेशन और उत्पाद दस्तावेज़ों के लिए lmstudio.ai देखें।

त्वरित शुरुआत

lms server start --port 1234

lms daemon up

export LM_API_TOKEN="your-lm-studio-api-token"

openclaw onboard

बाद में डिफ़ॉल्ट मॉडल बदलें:

openclaw models set lmstudio/qwen/qwen3.5-9b

LM Studio मॉडल कुंजियाँ author/model-name प्रारूप का उपयोग करती हैं (उदा. qwen/qwen3.5-9b); OpenClaw मॉडल संदर्भों में प्रदाता पहले जोड़ा जाता है: lmstudio/qwen/qwen3.5-9b। किसी मॉडल की सटीक कुंजी जानने के लिए नीचे दिया गया कमांड चलाएँ और key फ़ील्ड देखें:

curl http://localhost:1234/api/v1/models

गैर-इंटरैक्टिव ऑनबोर्डिंग

openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

या बेस URL, मॉडल और API कुंजी स्पष्ट रूप से निर्दिष्ट करें:

openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

--custom-model-id, LM Studio द्वारा लौटाई गई मॉडल कुंजी (उदा. qwen/qwen3.5-9b) लेता है, जिसमें lmstudio/ प्रदाता उपसर्ग नहीं होता। प्रमाणीकृत सर्वरों के लिए --lmstudio-api-key दें (या LM_API_TOKEN सेट करें); अप्रमाणीकृत सर्वरों के लिए इसे छोड़ दें और OpenClaw इसके बजाय एक स्थानीय गैर-गोपनीय मार्कर संग्रहीत करता है। संगतता के लिए --custom-api-key अभी भी स्वीकार किया जाता है, लेकिन --lmstudio-api-key को प्राथमिकता दी जाती है।

यह models.providers.lmstudio लिखता है और डिफ़ॉल्ट मॉडल को lmstudio/<custom-model-id> पर सेट करता है। API कुंजी देने पर lmstudio:default प्रमाणीकरण प्रोफ़ाइल भी लिखी जाती है।

इंटरैक्टिव सेटअप अतिरिक्त रूप से पसंदीदा लोड कॉन्टेक्स्ट लंबाई पूछ सकता है और उसे खोजे गए उन सभी मॉडलों पर लागू करता है जिन्हें वह कॉन्फ़िगरेशन में सहेजता है।

कॉन्फ़िगरेशन

स्ट्रीमिंग उपयोग संगतता

LM Studio हमेशा स्ट्रीम किए गए प्रत्युत्तरों में OpenAI-आकार का usage ऑब्जेक्ट उत्सर्जित नहीं करता। OpenClaw इसके बजाय llama.cpp-शैली के timings.prompt_n / timings.predicted_n मेटाडेटा से टोकन गणना पुनर्प्राप्त करता है। स्थानीय एंडपॉइंट (लूपबैक होस्ट) के रूप में रिज़ॉल्व होने वाले किसी भी OpenAI-संगत एंडपॉइंट को यही फ़ॉलबैक मिलता है, जिसमें vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI और text-generation-webui जैसे अन्य स्थानीय बैकएंड शामिल हैं।

चिंतन संगतता

जब LM Studio की /api/v1/models खोज मॉडल-विशिष्ट रीजनिंग विकल्पों की रिपोर्ट करती है, तब OpenClaw मॉडल संगतता मेटाडेटा में संबंधित reasoning_effort मान (none, minimal, low, medium, high, xhigh) उपलब्ध कराता है। कुछ LM Studio बिल्ड एक बाइनरी UI विकल्प (allowed_options: ["off", "on"]) विज्ञापित करते हैं, लेकिन /v1/chat/completions पर उन शाब्दिक मानों को अस्वीकार करते हैं; OpenClaw अनुरोध भेजने से पहले उस बाइनरी आकार को छह-स्तरीय पैमाने में सामान्यीकृत करता है, जिसमें पुराने सहेजे गए कॉन्फ़िगरेशन भी शामिल हैं जिनमें अभी भी off/on रीजनिंग मैप हैं।

स्पष्ट कॉन्फ़िगरेशन

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

प्रीलोड अक्षम करना

LM Studio जस्ट-इन-टाइम (JIT) मॉडल लोडिंग का समर्थन करता है, जो पहले अनुरोध पर मॉडल लोड करती है। OpenClaw डिफ़ॉल्ट रूप से LM Studio के मूल लोड एंडपॉइंट के माध्यम से मॉडल प्रीलोड करता है, जो JIT अक्षम होने पर सहायक होता है। इसके बजाय मॉडल जीवनचक्र को LM Studio के JIT, निष्क्रिय TTL और ऑटो-इविक्ट व्यवहार द्वारा प्रबंधित होने देने के लिए, OpenClaw का प्रीलोड चरण अक्षम करें:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

LAN या टेलनेट होस्ट

LM Studio होस्ट के पहुँच-योग्य पते का उपयोग करें, /v1 बनाए रखें और सुनिश्चित करें कि उस मशीन पर LM Studio लूपबैक के बाहर भी बाइंड है:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

lmstudio मॉडल अनुरोधों के लिए अपने कॉन्फ़िगर किए गए एंडपॉइंट पर स्वचालित रूप से भरोसा करता है, जिसमें लूपबैक, LAN और टेलनेट होस्ट शामिल हैं (मेटाडेटा/लिंक-लोकल मूल को छोड़कर)। किसी भी कस्टम/स्थानीय OpenAI-संगत प्रदाता प्रविष्टि को समान सटीक-मूल विश्वास मिलता है। किसी अलग निजी होस्ट या पोर्ट के अनुरोधों के लिए अभी भी models.providers.<id>.request.allowPrivateNetwork: true आवश्यक है; डिफ़ॉल्ट विश्वास से बाहर निकलने के लिए इसे false पर सेट करें।

समस्या निवारण

LM Studio का पता नहीं चला

सुनिश्चित करें कि LM Studio चल रहा है:

lms server start --port 1234

यदि प्रमाणीकरण सक्षम है, तो LM_API_TOKEN भी सेट करें। सत्यापित करें कि API तक पहुँचा जा सकता है:

curl http://localhost:1234/api/v1/models

प्रमाणीकरण त्रुटियाँ (HTTP 401)

• जाँचें कि LM_API_TOKEN, LM Studio में कॉन्फ़िगर की गई कुंजी से मेल खाता है।
• LM Studio प्रमाणीकरण देखें।
• यदि सर्वर को प्रमाणीकरण की आवश्यकता नहीं है, तो सेटअप के दौरान कुंजी खाली छोड़ें।

संबंधित

• मॉडल चयन
• Ollama
• स्थानीय मॉडल