메인 콘텐츠로 건너뛰기

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang은 OpenAI 호환 HTTP API를 통해 오픈 웨이트 모델을 제공합니다. OpenClaw는 사용 가능한 모델 자동 발견 기능과 함께 openai-completions provider family를 사용해 SGLang에 연결합니다.
속성값
Provider idsglang
Plugin번들, enabledByDefault: true
인증 env varSGLANG_API_KEY (서버에 인증이 없으면 비어 있지 않은 아무 값)
온보딩 플래그--auth-choice sglang
APIOpenAI 호환 (openai-completions)
기본 base URLhttp://127.0.0.1:30000/v1
기본 모델 placeholdersglang/Qwen/Qwen3-8B
스트리밍 사용량예 (supportsStreamingUsage: true)
가격 책정external-free로 표시됨 (modelPricing.external: false)
또한 SGLANG_API_KEY로 옵트인하면 OpenClaw가 SGLang에서 사용 가능한 모델을 자동 발견합니다. 사용자 지정 SGLang base URL도 구성하는 경우 발견을 동적으로 유지하려면 agents.defaults.models에서 sglang/*를 사용하세요. 아래 모델 발견(암시적 provider)을 참조하세요.

​
시작하기

1

SGLang 시작

OpenAI 호환 서버로 SGLang을 실행하세요. base URL은 /v1 endpoint를 노출해야 합니다(예: /v1/models, /v1/chat/completions). SGLang은 일반적으로 다음에서 실행됩니다.
  • http://127.0.0.1:30000/v1
2

API 키 설정

서버에 인증이 구성되어 있지 않으면 아무 값이나 사용할 수 있습니다.
export SGLANG_API_KEY="sglang-local"
3

온보딩을 실행하거나 모델을 직접 설정

openclaw onboard
또는 모델을 수동으로 구성하세요.
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
모델 발견(암시적 provider)

SGLANG_API_KEY가 설정되어 있거나 auth profile이 존재하고, models.providers.sglang을 정의하지 않은 경우 OpenClaw는 다음을 쿼리합니다.
  • GET http://127.0.0.1:30000/v1/models
그리고 반환된 ID를 모델 항목으로 변환합니다.
models.providers.sglang을 명시적으로 설정하면 OpenClaw는 기본적으로 사용자가 선언한 모델을 사용합니다. OpenClaw가 구성된 provider의 /models endpoint를 쿼리하고 광고된 모든 SGLang 모델을 포함하도록 하려면 agents.defaults.models에 "sglang/*": {}를 추가하세요.

​
명시적 구성(수동 모델)

다음 경우 명시적 config를 사용하세요.
  • SGLang이 다른 호스트/포트에서 실행됩니다.
  • contextWindow/maxTokens 값을 고정하려고 합니다.
  • 서버에 실제 API 키가 필요하거나, 헤더를 제어하려고 합니다.
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
고급 구성

SGLang은 네이티브 OpenAI endpoint가 아니라 프록시 스타일의 OpenAI 호환 /v1 backend로 취급됩니다.
동작SGLang
OpenAI 전용 요청 shaping적용되지 않음
service_tier, Responses store, prompt-cache hints전송되지 않음
Reasoning 호환 payload shaping적용되지 않음
숨겨진 attribution headers (originator, version, User-Agent)사용자 지정 SGLang base URL에는 삽입되지 않음
서버에 연결할 수 없음서버가 실행 중이고 응답하는지 확인하세요.
curl http://127.0.0.1:30000/v1/models
인증 오류요청이 인증 오류로 실패하면 서버 구성과 일치하는 실제 SGLANG_API_KEY를 설정하거나, models.providers.sglang 아래에서 provider를 명시적으로 구성하세요.
인증 없이 SGLang을 실행하는 경우 모델 발견에 옵트인하려면 SGLANG_API_KEY에 비어 있지 않은 아무 값이면 충분합니다.

​
관련 항목

모델 선택

provider, 모델 참조, failover 동작 선택.

구성 참조

provider 항목을 포함한 전체 config schema.