Przejdź do głównej treści

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang udostępnia modele o otwartych wagach przez zgodne z OpenAI API HTTP. OpenClaw łączy się z SGLang przy użyciu rodziny dostawców openai-completions z automatycznym wykrywaniem dostępnych modeli.
WłaściwośćWartość
Identyfikator dostawcysglang
Pluginwbudowany, enabledByDefault: true
Zmienna środowiskowa uwierzytelnianiaSGLANG_API_KEY (dowolna niepusta wartość, jeśli serwer nie ma uwierzytelniania)
Flaga konfiguracji początkowej--auth-choice sglang
APIzgodne z OpenAI (openai-completions)
Domyślny bazowy URLhttp://127.0.0.1:30000/v1
Domyślny symbol zastępczy modelusglang/Qwen/Qwen3-8B
Użycie strumieniowaniaTak (supportsStreamingUsage: true)
CennikOznaczone jako zewnętrznie bezpłatne (modelPricing.external: false)
OpenClaw także automatycznie wykrywa dostępne modele z SGLang, gdy włączysz tę opcję za pomocą SGLANG_API_KEY. Użyj sglang/* w agents.defaults.models, aby zachować dynamiczne wykrywanie, gdy konfigurujesz także niestandardowy bazowy URL SGLang. Zobacz Wykrywanie modeli (niejawny dostawca) poniżej.

​
Pierwsze kroki

1

Uruchom SGLang

Uruchom SGLang z serwerem zgodnym z OpenAI. Twój bazowy URL powinien udostępniać punkty końcowe /v1 (na przykład /v1/models, /v1/chat/completions). SGLang zwykle działa pod adresem:
  • http://127.0.0.1:30000/v1
2

Ustaw klucz API

Dowolna wartość działa, jeśli na serwerze nie skonfigurowano uwierzytelniania:
export SGLANG_API_KEY="sglang-local"
3

Uruchom konfigurację początkową lub ustaw model bezpośrednio

openclaw onboard
Albo skonfiguruj model ręcznie:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
Wykrywanie modeli (niejawny dostawca)

Gdy SGLANG_API_KEY jest ustawione (albo istnieje profil uwierzytelniania), a Ty nie definiujesz models.providers.sglang, OpenClaw wyśle zapytanie do:
  • GET http://127.0.0.1:30000/v1/models
i przekształci zwrócone identyfikatory w wpisy modeli.
Jeśli ustawisz models.providers.sglang jawnie, OpenClaw domyślnie użyje zadeklarowanych przez Ciebie modeli. Dodaj "sglang/*": {} do agents.defaults.models, gdy chcesz, aby OpenClaw odpytywał punkt końcowy /models skonfigurowanego dostawcy i uwzględniał wszystkie ogłaszane modele SGLang.

​
Jawna konfiguracja (modele ręczne)

Użyj jawnej konfiguracji, gdy:
  • SGLang działa na innym hoście/porcie.
  • Chcesz przypiąć wartości contextWindow/maxTokens.
  • Twój serwer wymaga prawdziwego klucza API (albo chcesz kontrolować nagłówki).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
Konfiguracja zaawansowana

SGLang jest traktowany jako backend /v1 w stylu proxy zgodny z OpenAI, a nie natywny punkt końcowy OpenAI.
ZachowanieSGLang
Kształtowanie żądań tylko dla OpenAINie jest stosowane
service_tier, Responses store, wskazówki pamięci podręcznej promptówNie są wysyłane
Kształtowanie ładunku zgodności rozumowaniaNie jest stosowane
Ukryte nagłówki atrybucji (originator, version, User-Agent)Nie są wstrzykiwane dla niestandardowych bazowych URL-i SGLang
Serwer nieosiągalnySprawdź, czy serwer działa i odpowiada:
curl http://127.0.0.1:30000/v1/models
Błędy uwierzytelnianiaJeśli żądania kończą się błędami uwierzytelniania, ustaw prawdziwy SGLANG_API_KEY, który pasuje do konfiguracji serwera, albo skonfiguruj dostawcę jawnie w models.providers.sglang.
Jeśli uruchamiasz SGLang bez uwierzytelniania, dowolna niepusta wartość SGLANG_API_KEY wystarczy, aby włączyć wykrywanie modeli.

​
Powiązane

Wybór modelu

Wybieranie dostawców, referencji modeli i zachowania przełączania awaryjnego.

Dokumentacja konfiguracji

Pełny schemat konfiguracji, w tym wpisy dostawców.