OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

SGLang

SGLang biedt open-weight-modellen aan via een OpenAI-compatibele HTTP-API. OpenClaw maakt verbinding met SGLang via de providerfamilie openai-completions, met automatische detectie van beschikbare modellen.

Eigenschap Waarde
Provider-id sglang
Plugin meegeleverd, enabledByDefault: true
Omgevingsvariabele voor authenticatie SGLANG_API_KEY (elke niet-lege waarde als de server geen authenticatie gebruikt)
Onboardingvlag --auth-choice sglang
API OpenAI-compatibel (openai-completions)
Standaardbasis-URL http://127.0.0.1:30000/v1
Tijdelijke aanduiding voor standaardmodel sglang/Qwen/Qwen3-8B
Gebruiksgegevens bij streaming Ja (supportsStreamingUsage: true)
Prijsstelling Gemarkeerd als extern-gratis (modelPricing.external: false)

OpenClaw detecteert ook automatisch beschikbare modellen van SGLang wanneer je je aanmeldt met SGLANG_API_KEY. Gebruik sglang/* in agents.defaults.models om de detectie dynamisch te houden wanneer je ook een aangepaste SGLang-basis-URL configureert. Zie Modeldetectie (impliciete provider) hieronder.

Aan de slag

  • SGLang starten

    Start SGLang met een OpenAI-compatibele server. Je basis-URL moet /v1-eindpunten beschikbaar stellen (bijvoorbeeld /v1/models, /v1/chat/completions). SGLang draait doorgaans op:

    • http://127.0.0.1:30000/v1

  • Een API-sleutel instellen

    Elke waarde werkt als er geen authenticatie op je server is geconfigureerd:

    bash
    export SGLANG_API_KEY="sglang-local"

  • Onboarding uitvoeren of rechtstreeks een model instellen

    bash
    openclaw onboard

    Of configureer het model handmatig:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

    • Modeldetectie (impliciete provider)

    Wanneer SGLANG_API_KEY is ingesteld (of er een authenticatieprofiel bestaat) en je models.providers.sglang niet definieert, bevraagt OpenClaw:

    • GET http://127.0.0.1:30000/v1/models

    en zet de geretourneerde id's om in modelvermeldingen.

    Expliciete configuratie (handmatige modellen)

    Gebruik een expliciete configuratie wanneer:

    • SGLang op een andere host/poort draait.
    • Je de waarden voor contextWindow/maxTokens wilt vastzetten.
    • Je server een echte API-sleutel vereist (of je de headers wilt beheren).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Geavanceerde configuratie

    Proxyachtig gedrag

    SGLang wordt behandeld als een proxyachtige OpenAI-compatibele /v1-backend, niet als een systeemeigen OpenAI-eindpunt.

    Gedrag SGLang
    Alleen voor OpenAI toegepaste vormgeving van aanvragen Niet toegepast
    service_tier, Responses store, hints voor promptcache Niet verzonden
    Vormgeving van payloads voor compatibiliteit met redeneren Niet toegepast
    Verborgen attributieheaders (originator, version, User-Agent) Niet geïnjecteerd bij aangepaste SGLang-basis-URL's
    Problemen oplossen

    Server niet bereikbaar

    Controleer of de server draait en reageert:

    bash
    curl http://127.0.0.1:30000/v1/models

    Authenticatiefouten

    Als aanvragen mislukken met authenticatiefouten, stel dan een echte SGLANG_API_KEY in die overeenkomt met je serverconfiguratie, of configureer de provider expliciet onder models.providers.sglang.

    Gerelateerd

    Modelselectie

    Providers en modelverwijzingen kiezen en failovergedrag configureren.
    Configuratiereferentie

    Volledig configuratieschema, inclusief providervermeldingen.
    Was this useful?
    On this page

    On this page