Providers
SGLang
SGLang stellt Open-Weight-Modelle über eine OpenAI-kompatible HTTP-API bereit. OpenClaw stellt über die Provider-Familie openai-completions eine Verbindung zu SGLang her und erkennt verfügbare Modelle automatisch.
| Eigenschaft | Wert |
|---|---|
| Provider-ID | sglang |
| Plugin | gebündelt, enabledByDefault: true |
| Authentifizierungs-Umgebungsvariable | SGLANG_API_KEY (beliebiger nicht leerer Wert, wenn der Server keine Authentifizierung verwendet) |
| Onboarding-Flag | --auth-choice sglang |
| API | OpenAI-kompatibel (openai-completions) |
| Standard-Basis-URL | http://127.0.0.1:30000/v1 |
| Platzhalter für Standardmodell | sglang/Qwen/Qwen3-8B |
| Streaming-Nutzung | Ja (supportsStreamingUsage: true) |
| Preisgestaltung | Als extern kostenlos gekennzeichnet (modelPricing.external: false) |
OpenClaw erkennt verfügbare Modelle von SGLang außerdem automatisch, wenn Sie sich mit SGLANG_API_KEY dafür entscheiden. Verwenden Sie sglang/* in agents.defaults.models, damit die Erkennung dynamisch bleibt, wenn Sie zugleich eine benutzerdefinierte SGLang-Basis-URL konfigurieren. Siehe unten Modellerkennung (impliziter Provider).
Erste Schritte
SGLang starten
Starten Sie SGLang mit einem OpenAI-kompatiblen Server. Ihre Basis-URL sollte
/v1-Endpunkte bereitstellen (zum Beispiel /v1/models, /v1/chat/completions). SGLang
wird üblicherweise ausgeführt unter:
http://127.0.0.1:30000/v1
API-Schlüssel festlegen
Wenn auf Ihrem Server keine Authentifizierung konfiguriert ist, funktioniert ein beliebiger Wert:
export SGLANG_API_KEY="sglang-local"Onboarding ausführen oder ein Modell direkt festlegen
openclaw onboardOder konfigurieren Sie das Modell manuell:
{ agents: { defaults: { model: { primary: "sglang/your-model-id" }, }, },}Modellerkennung (impliziter Provider)
Wenn SGLANG_API_KEY festgelegt ist (oder ein Authentifizierungsprofil vorhanden ist) und Sie
models.providers.sglang nicht definieren, fragt OpenClaw Folgendes ab:
GET http://127.0.0.1:30000/v1/models
und wandelt die zurückgegebenen IDs in Modelleinträge um.
Explizite Konfiguration (manuelle Modelle)
Verwenden Sie eine explizite Konfiguration, wenn:
- SGLang auf einem anderen Host/Port ausgeführt wird.
- Sie die Werte für
contextWindow/maxTokensfest vorgeben möchten. - Ihr Server einen echten API-Schlüssel erfordert (oder Sie die Header steuern möchten).
{ models: { providers: { sglang: { baseUrl: "http://127.0.0.1:30000/v1", apiKey: "${SGLANG_API_KEY}", api: "openai-completions", models: [ { id: "your-model-id", name: "Local SGLang Model", reasoning: false, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 128000, maxTokens: 8192, }, ], }, }, },}Erweiterte Konfiguration
Proxy-ähnliches Verhalten
SGLang wird als Proxy-ähnliches OpenAI-kompatibles /v1-Backend behandelt, nicht als
nativer OpenAI-Endpunkt.
| Verhalten | SGLang |
|---|---|
| Nur für OpenAI vorgesehene Anfrageaufbereitung | Nicht angewendet |
service_tier, Responses store, Hinweise zum Prompt-Cache |
Nicht gesendet |
| Aufbereitung der Nutzlast für Reasoning-Kompatibilität | Nicht angewendet |
Verborgene Zuordnungs-Header (originator, version, User-Agent) |
Werden bei benutzerdefinierten SGLang-Basis-URLs nicht eingefügt |
Fehlerbehebung
Server nicht erreichbar
Vergewissern Sie sich, dass der Server ausgeführt wird und antwortet:
curl http://127.0.0.1:30000/v1/modelsAuthentifizierungsfehler
Wenn Anfragen aufgrund von Authentifizierungsfehlern fehlschlagen, legen Sie einen echten SGLANG_API_KEY fest, der Ihrer
Serverkonfiguration entspricht, oder konfigurieren Sie den Provider explizit unter
models.providers.sglang.
