Providers

SGLang

SGLang مدل‌های دارای وزن باز را از طریق یک API ‏HTTP سازگار با OpenAI ارائه می‌کند. OpenClaw با استفاده از خانواده ارائه‌دهنده openai-completions و کشف خودکار مدل‌های موجود به SGLang متصل می‌شود.

ویژگی مقدار
شناسه ارائه‌دهنده sglang
Plugin همراه، enabledByDefault: true
متغیر محیطی احراز هویت SGLANG_API_KEY (اگر سرور احراز هویت ندارد، هر مقدار غیرخالی)
پرچم راه‌اندازی اولیه --auth-choice sglang
API سازگار با OpenAI ‏(openai-completions)
URL پایه پیش‌فرض http://127.0.0.1:30000/v1
جای‌نگهدار مدل پیش‌فرض sglang/Qwen/Qwen3-8B
میزان استفاده از استریم بله (supportsStreamingUsage: true)
قیمت‌گذاری به‌عنوان رایگان خارجی علامت‌گذاری شده است (modelPricing.external: false)

همچنین وقتی با SGLANG_API_KEY اعلام مشارکت می‌کنید، OpenClaw مدل‌های موجود را به‌صورت خودکار کشف می‌کند. وقتی یک URL پایه سفارشی SGLang را نیز پیکربندی می‌کنید، برای پویا نگه‌داشتن کشف، از sglang/* در agents.defaults.models استفاده کنید. بخش کشف مدل (ارائه‌دهنده ضمنی) را در ادامه ببینید.

شروع به کار

  • راه‌اندازی SGLang

    SGLang را با یک سرور سازگار با OpenAI اجرا کنید. URL پایه شما باید نقطه‌های پایانی /v1 را ارائه کند (برای مثال /v1/models، /v1/chat/completions). SGLang معمولاً روی نشانی زیر اجرا می‌شود:

    • http://127.0.0.1:30000/v1
  • تنظیم یک کلید API

    اگر احراز هویت روی سرور شما پیکربندی نشده باشد، هر مقداری کار می‌کند:

    bash
    export SGLANG_API_KEY="sglang-local"
  • اجرای راه‌اندازی اولیه یا تنظیم مستقیم مدل

    bash
    openclaw onboard

    یا مدل را به‌صورت دستی پیکربندی کنید:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • کشف مدل (ارائه‌دهنده ضمنی)

    وقتی SGLANG_API_KEY تنظیم شده باشد (یا یک نمایه احراز هویت وجود داشته باشد) و models.providers.sglang را تعریف نکرده باشید، OpenClaw نشانی زیر را پرس‌وجو می‌کند:

    • GET http://127.0.0.1:30000/v1/models

    و شناسه‌های بازگشتی را به ورودی‌های مدل تبدیل می‌کند.

    پیکربندی صریح (مدل‌های دستی)

    در موارد زیر از پیکربندی صریح استفاده کنید:

    • SGLang روی میزبان/درگاه دیگری اجرا می‌شود.
    • می‌خواهید مقادیر contextWindow/maxTokens را ثابت کنید.
    • سرور شما به یک کلید API واقعی نیاز دارد (یا می‌خواهید سرآیندها را کنترل کنید).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    پیکربندی پیشرفته

    رفتار پروکسی‌مانند

    با SGLang به‌عنوان یک بک‌اند پروکسی‌مانند /v1 سازگار با OpenAI رفتار می‌شود، نه یک نقطه پایانی بومی OpenAI.

    رفتار SGLang
    شکل‌دهی درخواست مختص OpenAI اعمال نمی‌شود
    service_tier، Responses store، راهنمایی‌های کش پرامپت ارسال نمی‌شوند
    شکل‌دهی محموله سازگاری استدلال اعمال نمی‌شود
    سرآیندهای انتساب پنهان (originator، version، User-Agent) در URLهای پایه سفارشی SGLang تزریق نمی‌شوند
    عیب‌یابی

    سرور در دسترس نیست

    بررسی کنید که سرور در حال اجرا و پاسخ‌گو باشد:

    bash
    curl http://127.0.0.1:30000/v1/models

    خطاهای احراز هویت

    اگر درخواست‌ها با خطاهای احراز هویت مواجه می‌شوند، یک SGLANG_API_KEY واقعی تنظیم کنید که با پیکربندی سرور شما مطابقت داشته باشد، یا ارائه‌دهنده را به‌طور صریح در models.providers.sglang پیکربندی کنید.

    مرتبط

    Was this useful?
    On this page

    On this page