跳轉到主要內容

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang 透過 OpenAI 相容的 HTTP API 提供開放權重模型服務。OpenClaw 使用 openai-completions 提供者家族連線到 SGLang，並自動探索可用模型。
屬性值
提供者 IDsglang
Plugin內建，enabledByDefault: true
驗證環境變數SGLANG_API_KEY（如果伺服器沒有驗證，任何非空值皆可）
入門設定旗標--auth-choice sglang
APIOpenAI 相容（openai-completions）
預設基底 URLhttp://127.0.0.1:30000/v1
預設模型預留位置sglang/Qwen/Qwen3-8B
串流用量是（supportsStreamingUsage: true）
計價標記為外部免費（modelPricing.external: false）
當你使用 SGLANG_API_KEY 選擇啟用，且沒有定義明確的 models.providers.sglang 項目時，OpenClaw 也會從 SGLang 自動探索可用模型，請參閱下方的模型探索（隱含提供者）。

​
開始使用

1

啟動 SGLang

使用 OpenAI 相容伺服器啟動 SGLang。你的基底 URL 應公開 /v1 端點（例如 /v1/models、/v1/chat/completions）。SGLang 通常執行於：
  • http://127.0.0.1:30000/v1
2

設定 API 金鑰

如果你的伺服器未設定驗證，任何值都可使用：
export SGLANG_API_KEY="sglang-local"
3

執行入門設定或直接設定模型

openclaw onboard
或手動設定模型：
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
模型探索（隱含提供者）

當已設定 SGLANG_API_KEY（或存在驗證設定檔），且你沒有 定義 models.providers.sglang 時，OpenClaw 會查詢：
  • GET http://127.0.0.1:30000/v1/models
並將傳回的 ID 轉換為模型項目。
如果你明確設定 models.providers.sglang，系統會略過自動探索， 且你必須手動定義模型。

​
明確設定（手動模型）

在下列情況使用明確設定：
  • SGLang 執行於不同主機/連接埠。
  • 你想釘選 contextWindow/maxTokens 值。
  • 你的伺服器需要真正的 API 金鑰（或你想控制標頭）。
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
進階設定

SGLang 會被視為代理風格的 OpenAI 相容 /v1 後端，而不是 原生 OpenAI 端點。
行為SGLang
僅限 OpenAI 的請求成形不套用
service_tier、Responses store、提示快取提示不傳送
推理相容酬載成形不套用
隱藏歸因標頭（originator、version、User-Agent）不會注入到自訂 SGLang 基底 URL
無法連線到伺服器確認伺服器正在執行並回應：
curl http://127.0.0.1:30000/v1/models
驗證錯誤如果請求因驗證錯誤而失敗，請設定與你的伺服器設定相符的真正 SGLANG_API_KEY，或在 models.providers.sglang 下明確設定提供者。
如果你執行 SGLang 時未啟用驗證，任何非空的 SGLANG_API_KEY 值都足以選擇啟用模型探索。

​
相關

模型選擇

選擇提供者、模型參照和容錯移轉行為。

設定參考

完整設定結構描述，包含提供者項目。