Passer au contenu principal

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang sert des modèles à pondérations ouvertes via une API HTTP compatible avec OpenAI. OpenClaw se connecte à SGLang avec la famille de fournisseurs openai-completions, avec découverte automatique des modèles disponibles.
PropriétéValeur
ID du fournisseursglang
Pluginintégré, enabledByDefault: true
Variable d’env d’authentificationSGLANG_API_KEY (toute valeur non vide si le serveur n’a pas d’authentification)
Indicateur d’onboarding--auth-choice sglang
APIcompatible avec OpenAI (openai-completions)
URL de base par défauthttp://127.0.0.1:30000/v1
Espace réservé du modèle par défautsglang/Qwen/Qwen3-8B
Utilisation du streamingOui (supportsStreamingUsage: true)
TarificationMarquée comme externe gratuite (modelPricing.external: false)
OpenClaw découvre aussi automatiquement les modèles disponibles depuis SGLang lorsque vous l’activez avec SGLANG_API_KEY. Utilisez sglang/* dans agents.defaults.models pour conserver une découverte dynamique lorsque vous configurez aussi une URL de base SGLang personnalisée. Consultez Découverte de modèles (fournisseur implicite) ci-dessous.

Premiers pas

1

Démarrer SGLang

Lancez SGLang avec un serveur compatible avec OpenAI. Votre URL de base doit exposer des points de terminaison /v1 (par exemple /v1/models, /v1/chat/completions). SGLang s’exécute généralement sur :
  • http://127.0.0.1:30000/v1
2

Définir une clé API

Toute valeur fonctionne si aucune authentification n’est configurée sur votre serveur :
export SGLANG_API_KEY="sglang-local"
3

Exécuter l'onboarding ou définir directement un modèle

openclaw onboard
Ou configurez le modèle manuellement :
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Découverte de modèles (fournisseur implicite)

Lorsque SGLANG_API_KEY est défini (ou qu’un profil d’authentification existe) et que vous ne définissez pas models.providers.sglang, OpenClaw interroge :
  • GET http://127.0.0.1:30000/v1/models
et convertit les identifiants renvoyés en entrées de modèle.
Si vous définissez explicitement models.providers.sglang, OpenClaw utilise par défaut les modèles que vous avez déclarés. Ajoutez "sglang/*": {} à agents.defaults.models lorsque vous voulez qu’OpenClaw interroge le point de terminaison /models de ce fournisseur configuré et inclue tous les modèles SGLang annoncés.

Configuration explicite (modèles manuels)

Utilisez une configuration explicite lorsque :
  • SGLang s’exécute sur un hôte ou un port différent.
  • Vous voulez épingler les valeurs contextWindow/maxTokens.
  • Votre serveur exige une vraie clé API (ou vous voulez contrôler les en-têtes).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Configuration avancée

SGLang est traité comme un backend /v1 compatible avec OpenAI de type proxy, et non comme un point de terminaison OpenAI natif.
ComportementSGLang
Mise en forme des requêtes uniquement pour OpenAINon appliquée
service_tier, store de Responses, indications de cache de promptNon envoyés
Mise en forme de payload compatible avec le raisonnementNon appliquée
En-têtes d’attribution masqués (originator, version, User-Agent)Non injectés sur les URL de base SGLang personnalisées
Serveur inaccessibleVérifiez que le serveur est en cours d’exécution et répond :
curl http://127.0.0.1:30000/v1/models
Erreurs d’authentificationSi les requêtes échouent avec des erreurs d’authentification, définissez une vraie SGLANG_API_KEY qui correspond à la configuration de votre serveur, ou configurez explicitement le fournisseur sous models.providers.sglang.
Si vous exécutez SGLang sans authentification, toute valeur non vide pour SGLANG_API_KEY suffit pour activer la découverte de modèles.

Connexe

Sélection du modèle

Choisir les fournisseurs, les références de modèles et le comportement de basculement.

Référence de configuration

Schéma de configuration complet, y compris les entrées de fournisseurs.