در این صفحه

در این صفحه

Providers

SGLang

SGLang مدل‌های دارای وزن باز را از طریق یک API ‏HTTP سازگار با OpenAI ارائه می‌کند. OpenClaw با استفاده از خانواده ارائه‌دهنده openai-completions و کشف خودکار مدل‌های موجود به SGLang متصل می‌شود.

ویژگی مقدار
شناسه ارائه‌دهنده sglang
Plugin همراه، enabledByDefault: true
متغیر محیطی احراز هویت SGLANG_API_KEY (اگر سرور احراز هویت ندارد، هر مقدار غیرخالی)
پرچم راه‌اندازی اولیه --auth-choice sglang
API سازگار با OpenAI ‏(openai-completions)
URL پایه پیش‌فرض http://127.0.0.1:30000/v1
جای‌نگهدار مدل پیش‌فرض sglang/Qwen/Qwen3-8B
میزان استفاده از استریم بله (supportsStreamingUsage: true)
قیمت‌گذاری به‌عنوان رایگان خارجی علامت‌گذاری شده است (modelPricing.external: false)

همچنین وقتی با SGLANG_API_KEY اعلام مشارکت می‌کنید، OpenClaw مدل‌های موجود را به‌صورت خودکار کشف می‌کند. وقتی یک URL پایه سفارشی SGLang را نیز پیکربندی می‌کنید، برای پویا نگه‌داشتن کشف، از sglang/* در agents.defaults.models استفاده کنید. بخش کشف مدل (ارائه‌دهنده ضمنی) را در ادامه ببینید.

شروع به کار

  • راه‌اندازی SGLang

    SGLang را با یک سرور سازگار با OpenAI اجرا کنید. URL پایه شما باید نقطه‌های پایانی /v1 را ارائه کند (برای مثال /v1/models، /v1/chat/completions). SGLang معمولاً روی نشانی زیر اجرا می‌شود:

    • http://127.0.0.1:30000/v1
  • تنظیم یک کلید API

    اگر احراز هویت روی سرور شما پیکربندی نشده باشد، هر مقداری کار می‌کند:

    bash
    export SGLANG_API_KEY="sglang-local"
  • اجرای راه‌اندازی اولیه یا تنظیم مستقیم مدل

    bash
    openclaw onboard

    یا مدل را به‌صورت دستی پیکربندی کنید:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • کشف مدل (ارائه‌دهنده ضمنی)

    وقتی SGLANG_API_KEY تنظیم شده باشد (یا یک نمایه احراز هویت وجود داشته باشد) و models.providers.sglang را تعریف نکرده باشید، OpenClaw نشانی زیر را پرس‌وجو می‌کند:

    • GET http://127.0.0.1:30000/v1/models

    و شناسه‌های بازگشتی را به ورودی‌های مدل تبدیل می‌کند.

    پیکربندی صریح (مدل‌های دستی)

    در موارد زیر از پیکربندی صریح استفاده کنید:

    • SGLang روی میزبان/درگاه دیگری اجرا می‌شود.
    • می‌خواهید مقادیر contextWindow/maxTokens را ثابت کنید.
    • سرور شما به یک کلید API واقعی نیاز دارد (یا می‌خواهید سرآیندها را کنترل کنید).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    پیکربندی پیشرفته

    رفتار پروکسی‌مانند

    با SGLang به‌عنوان یک بک‌اند پروکسی‌مانند /v1 سازگار با OpenAI رفتار می‌شود، نه یک نقطه پایانی بومی OpenAI.

    رفتار SGLang
    شکل‌دهی درخواست مختص OpenAI اعمال نمی‌شود
    service_tier، Responses store، راهنمایی‌های کش پرامپت ارسال نمی‌شوند
    شکل‌دهی محموله سازگاری استدلال اعمال نمی‌شود
    سرآیندهای انتساب پنهان (originator، version، User-Agent) در URLهای پایه سفارشی SGLang تزریق نمی‌شوند
    عیب‌یابی

    سرور در دسترس نیست

    بررسی کنید که سرور در حال اجرا و پاسخ‌گو باشد:

    bash
    curl http://127.0.0.1:30000/v1/models

    خطاهای احراز هویت

    اگر درخواست‌ها با خطاهای احراز هویت مواجه می‌شوند، یک SGLANG_API_KEY واقعی تنظیم کنید که با پیکربندی سرور شما مطابقت داشته باشد، یا ارائه‌دهنده را به‌طور صریح در models.providers.sglang پیکربندی کنید.

    مرتبط

    Was this useful?