メインコンテンツへスキップ

SGLang

SGLang は、OpenAI 互換 HTTP API を通じてオープンソース モデルを提供できます。 OpenClaw は openai-completions API を使って SGLang に接続できます。 また、SGLANG_API_KEY でオプトインし、 明示的な models.providers.sglang エントリを定義していない場合、OpenClaw は SGLang から利用可能なモデルを自動検出することもできます (サーバーで認証を強制していない場合は任意の値で構いません)。

はじめに

1

SGLang を起動する

OpenAI 互換サーバーで SGLang を起動します。base URL は /v1 エンドポイント(たとえば /v1/models/v1/chat/completions)を公開している必要があります。SGLang は一般に次で動作します:
  • http://127.0.0.1:30000/v1
2

API キーを設定する

サーバーで認証が設定されていない場合は、どんな値でも構いません:
export SGLANG_API_KEY="sglang-local"
3

オンボーディングを実行する、またはモデルを直接設定する

openclaw onboard
または、モデルを手動で設定します:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

モデル検出(暗黙のプロバイダー)

SGLANG_API_KEY が設定されている(または認証プロファイルが存在する)状態で、 models.providers.sglang定義していない場合、OpenClaw は次を問い合わせます:
  • GET http://127.0.0.1:30000/v1/models
そして、返された ID を model エントリに変換します。
models.providers.sglang を明示的に設定した場合、自動検出はスキップされ、 モデルは手動で定義する必要があります。

明示的な設定(手動モデル)

次の場合は明示的な設定を使用します:
  • SGLang が別のホスト/ポートで動作している。
  • contextWindow / maxTokens の値を固定したい。
  • サーバーが実際の API キーを必要とする(またはヘッダーを制御したい)。
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "ローカル SGLang モデル",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

高度な設定

SGLang は、ネイティブ OpenAI エンドポイントではなく、プロキシ スタイルの OpenAI 互換 /v1 バックエンドとして扱われます。
BehaviorSGLang
OpenAI 専用のリクエスト整形適用されない
service_tier、Responses の store、プロンプト キャッシュ ヒント送信されない
reasoning 互換ペイロード整形適用されない
隠し帰属ヘッダー(originator, version, User-Agentカスタム SGLang base URL には注入されない
サーバーに到達できないサーバーが起動して応答していることを確認してください:
curl http://127.0.0.1:30000/v1/models
認証エラーリクエストが認証エラーで失敗する場合は、サーバー設定に一致する実際の SGLANG_API_KEY を設定するか、 models.providers.sglang の下でプロバイダーを明示的に設定してください。
認証なしで SGLang を実行している場合、モデル検出にオプトインするには SGLANG_API_KEY に空でない任意の値を設定すれば十分です。

関連

モデル選択

プロバイダー、モデル ref、フェイルオーバー動作の選び方。

設定リファレンス

プロバイダー エントリを含む完全な設定スキーマ。