Pular para o conteúdo principal

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang serve modelos de peso aberto por meio de uma API HTTP compatível com OpenAI. OpenClaw se conecta ao SGLang usando a família de provedores openai-completions com descoberta automática dos modelos disponíveis.
PropriedadeValor
ID do provedorsglang
Pluginincluído, enabledByDefault: true
Variável de ambiente de authSGLANG_API_KEY (qualquer valor não vazio se o servidor não tiver auth)
Flag de onboarding--auth-choice sglang
APIcompatível com OpenAI (openai-completions)
URL base padrãohttp://127.0.0.1:30000/v1
Placeholder de modelo padrãosglang/Qwen/Qwen3-8B
Uso de streamingSim (supportsStreamingUsage: true)
PreçosMarcado como externo gratuito (modelPricing.external: false)
OpenClaw também descobre automaticamente os modelos disponíveis do SGLang quando você opta por isso com SGLANG_API_KEY. Use sglang/* em agents.defaults.models para manter a descoberta dinâmica quando você também configura uma URL base personalizada do SGLang. Veja Descoberta de modelos (provedor implícito) abaixo.

​
Primeiros passos

1

Iniciar o SGLang

Inicie o SGLang com um servidor compatível com OpenAI. Sua URL base deve expor endpoints /v1 (por exemplo, /v1/models, /v1/chat/completions). SGLang normalmente é executado em:
  • http://127.0.0.1:30000/v1
2

Definir uma chave de API

Qualquer valor funciona se nenhuma auth estiver configurada no seu servidor:
export SGLANG_API_KEY="sglang-local"
3

Executar o onboarding ou definir um modelo diretamente

openclaw onboard
Ou configure o modelo manualmente:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
Descoberta de modelos (provedor implícito)

Quando SGLANG_API_KEY está definido (ou existe um perfil de auth) e você não define models.providers.sglang, o OpenClaw consultará:
  • GET http://127.0.0.1:30000/v1/models
e converterá os IDs retornados em entradas de modelo.
Se você definir models.providers.sglang explicitamente, o OpenClaw usará seus modelos declarados por padrão. Adicione "sglang/*": {} a agents.defaults.models quando você quiser que o OpenClaw consulte o endpoint /models desse provedor configurado e inclua todos os modelos SGLang anunciados.

​
Configuração explícita (modelos manuais)

Use configuração explícita quando:
  • O SGLang é executado em outro host/porta.
  • Você quer fixar valores de contextWindow/maxTokens.
  • Seu servidor exige uma chave de API real (ou você quer controlar headers).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
Configuração avançada

SGLang é tratado como um backend /v1 compatível com OpenAI no estilo proxy, não como um endpoint nativo da OpenAI.
ComportamentoSGLang
Formatação de requisição exclusiva da OpenAINão aplicada
service_tier, Responses store, dicas de cache de promptNão enviados
Formatação de payload compatível com reasoningNão aplicada
Headers de atribuição ocultos (originator, version, User-Agent)Não injetados em URLs base personalizadas do SGLang
Servidor inacessívelVerifique se o servidor está em execução e respondendo:
curl http://127.0.0.1:30000/v1/models
Erros de authSe as requisições falharem com erros de auth, defina um SGLANG_API_KEY real que corresponda à configuração do seu servidor, ou configure o provedor explicitamente em models.providers.sglang.
Se você executar o SGLang sem autenticação, qualquer valor não vazio para SGLANG_API_KEY é suficiente para optar pela descoberta de modelos.

​
Relacionado

Seleção de modelo

Escolha de provedores, referências de modelo e comportamento de failover.

Referência de configuração

Esquema completo de configuração, incluindo entradas de provedor.