Vai al contenuto principale

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang serve modelli open-weight tramite un’API HTTP compatibile con OpenAI. OpenClaw si connette a SGLang usando la famiglia di provider openai-completions con rilevamento automatico dei modelli disponibili.
ProprietàValore
ID providersglang
Pluginincluso, enabledByDefault: true
Variabile env di authSGLANG_API_KEY (qualsiasi valore non vuoto se il server non ha auth)
Flag di onboarding--auth-choice sglang
APIcompatibile con OpenAI (openai-completions)
URL di base predefinitohttp://127.0.0.1:30000/v1
Segnaposto modello predefinitosglang/Qwen/Qwen3-8B
Uso dello streamingSì (supportsStreamingUsage: true)
PrezziContrassegnato come esterno gratuito (modelPricing.external: false)
OpenClaw rileva automaticamente anche i modelli disponibili da SGLang quando aderisci impostando SGLANG_API_KEY. Usa sglang/* in agents.defaults.models per mantenere dinamico il rilevamento quando configuri anche un URL di base SGLang personalizzato. Vedi Rilevamento dei modelli (provider implicito) sotto.

​
Per iniziare

1

Start SGLang

Avvia SGLang con un server compatibile con OpenAI. Il tuo URL di base dovrebbe esporre endpoint /v1 (per esempio /v1/models, /v1/chat/completions). SGLang viene comunemente eseguito su:
  • http://127.0.0.1:30000/v1
2

Set an API key

Qualsiasi valore funziona se sul server non è configurata auth:
export SGLANG_API_KEY="sglang-local"
3

Run onboarding or set a model directly

openclaw onboard
Oppure configura il modello manualmente:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
Rilevamento dei modelli (provider implicito)

Quando SGLANG_API_KEY è impostato (o esiste un profilo auth) e non definisci models.providers.sglang, OpenClaw interrogherà:
  • GET http://127.0.0.1:30000/v1/models
e convertirà gli ID restituiti in voci di modello.
Se imposti esplicitamente models.providers.sglang, OpenClaw usa per impostazione predefinita i modelli che hai dichiarato. Aggiungi "sglang/*": {} a agents.defaults.models quando vuoi che OpenClaw interroghi l’endpoint /models di quel provider configurato e includa tutti i modelli SGLang pubblicizzati.

​
Configurazione esplicita (modelli manuali)

Usa una configurazione esplicita quando:
  • SGLang viene eseguito su un host/porta diversi.
  • Vuoi fissare i valori contextWindow/maxTokens.
  • Il tuo server richiede una vera chiave API (o vuoi controllare gli header).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
Configurazione avanzata

SGLang viene trattato come backend /v1 compatibile con OpenAI in stile proxy, non come endpoint OpenAI nativo.
ComportamentoSGLang
Modellazione delle richieste solo OpenAINon applicata
service_tier, Responses store, suggerimenti prompt-cacheNon inviati
Modellazione del payload compatibile con il reasoningNon applicata
Header di attribuzione nascosti (originator, version, User-Agent)Non iniettati sugli URL di base SGLang personalizzati
Server non raggiungibileVerifica che il server sia in esecuzione e risponda:
curl http://127.0.0.1:30000/v1/models
Errori di authSe le richieste falliscono con errori di auth, imposta una vera SGLANG_API_KEY che corrisponda alla configurazione del tuo server, oppure configura esplicitamente il provider sotto models.providers.sglang.
Se esegui SGLang senza autenticazione, qualsiasi valore non vuoto per SGLANG_API_KEY è sufficiente per aderire al rilevamento dei modelli.

​
Correlati

Model selection

Scelta di provider, riferimenti dei modelli e comportamento di failover.

Configuration reference

Schema di configurazione completo, incluse le voci provider.