Ana içeriğe atla

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

LiteLLM, 100+ model sağlayıcısına birleşik API sunan açık kaynaklı bir LLM Gateway’idir. Merkezi maliyet takibi, günlükleme ve OpenClaw yapılandırmanızı değiştirmeden arka uçlar arasında geçiş esnekliği elde etmek için OpenClaw’ı LiteLLM üzerinden yönlendirin.
OpenClaw ile LiteLLM neden kullanılır?
  • Maliyet takibi — OpenClaw’ın tüm modellerde tam olarak ne harcadığını görün
  • Model yönlendirme — Yapılandırma değişiklikleri olmadan Claude, GPT-4, Gemini, Bedrock arasında geçiş yapın
  • Sanal anahtarlar — OpenClaw için harcama limitli anahtarlar oluşturun
  • Günlükleme — Hata ayıklama için tam istek/yanıt günlükleri
  • Geri dönüşler — Birincil sağlayıcınız devre dışıysa otomatik yük devretme

Hızlı başlangıç

Şunun için en iyisi: çalışan bir LiteLLM kurulumuna en hızlı yol.
1

Başlangıç kurulumunu çalıştırın

openclaw onboard --auth-choice litellm-api-key
Uzak bir proxy’ye karşı etkileşimsiz kurulum için proxy URL’sini açıkça iletin:
openclaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Yapılandırma

Ortam değişkenleri

export LITELLM_API_KEY="sk-litellm-key"

Yapılandırma dosyası

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Gelişmiş yapılandırma

Görsel üretimi

LiteLLM, OpenAI uyumlu /images/generations ve /images/edits rotaları üzerinden image_generate aracını da destekleyebilir. agents.defaults.imageGenerationModel altında bir LiteLLM görsel modeli yapılandırın:
{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}
http://localhost:4000 gibi loopback LiteLLM URL’leri genel bir özel ağ geçersiz kılması olmadan çalışır. LAN’da barındırılan bir proxy için models.providers.litellm.request.allowPrivateNetwork: true ayarını yapın; çünkü API anahtarı yapılandırılmış proxy ana makinesine gönderilecektir.
OpenClaw için harcama limitleri olan özel bir anahtar oluşturun:
curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'
Üretilen anahtarı LITELLM_API_KEY olarak kullanın.
LiteLLM, model isteklerini farklı arka uçlara yönlendirebilir. LiteLLM config.yaml dosyanızda yapılandırın:
model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY
OpenClaw claude-opus-4-6 istemeye devam eder — yönlendirmeyi LiteLLM yönetir.
LiteLLM’in panosunu veya API’sini kontrol edin:
# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
  • LiteLLM varsayılan olarak http://localhost:4000 üzerinde çalışır
  • OpenClaw, LiteLLM’in proxy tarzı OpenAI uyumlu /v1 uç noktası üzerinden bağlanır
  • Yerel OpenAI’ye özel istek biçimlendirmesi LiteLLM üzerinden uygulanmaz: service_tier yok, Responses store yok, prompt cache ipuçları yok ve OpenAI reasoning uyumluluk yükü biçimlendirmesi yok
  • Gizli OpenClaw atıf başlıkları (originator, version, User-Agent) özel LiteLLM temel URL’lerine eklenmez
Genel sağlayıcı yapılandırması ve yük devretme davranışı için bkz. Model Sağlayıcıları.

İlgili

LiteLLM Belgeleri

Resmi LiteLLM belgeleri ve API başvurusu.

Model seçimi

Tüm sağlayıcılara, model referanslarına ve yük devretme davranışına genel bakış.

Yapılandırma

Tam yapılandırma başvurusu.

Model seçimi

Modellerin nasıl seçileceği ve yapılandırılacağı.