Langsung ke konten utama

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

LiteLLM adalah gateway LLM sumber terbuka yang menyediakan API terpadu untuk 100+ penyedia model. Arahkan OpenClaw melalui LiteLLM untuk mendapatkan pelacakan biaya terpusat, pencatatan log, dan fleksibilitas untuk beralih backend tanpa mengubah konfigurasi OpenClaw Anda.
Mengapa menggunakan LiteLLM dengan OpenClaw?
  • Pelacakan biaya — Lihat secara tepat berapa yang dibelanjakan OpenClaw di semua model
  • Perutean model — Beralih antara Claude, GPT-4, Gemini, Bedrock tanpa perubahan konfigurasi
  • Kunci virtual — Buat kunci dengan batas pengeluaran untuk OpenClaw
  • Pencatatan log — Log permintaan/respons lengkap untuk debugging
  • Fallback — Failover otomatis jika penyedia utama Anda sedang tidak aktif

​
Mulai cepat

Paling cocok untuk: jalur tercepat menuju penyiapan LiteLLM yang berfungsi.
1

Jalankan onboarding

openclaw onboard --auth-choice litellm-api-key
Untuk penyiapan non-interaktif terhadap proxy jarak jauh, teruskan URL proxy secara eksplisit:
openclaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

​
Konfigurasi

​
Variabel lingkungan

export LITELLM_API_KEY="sk-litellm-key"

​
File konfigurasi

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

​
Konfigurasi lanjutan

​
Pembuatan gambar

LiteLLM juga dapat mendukung alat image_generate melalui rute yang kompatibel dengan OpenAI /images/generations dan /images/edits. Konfigurasikan model gambar LiteLLM di bawah agents.defaults.imageGenerationModel: 
{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}
URL loopback LiteLLM seperti http://localhost:4000 berfungsi tanpa penggantian jaringan privat global. Untuk proxy yang dihosting di LAN, atur models.providers.litellm.request.allowPrivateNetwork: true karena kunci API akan dikirim ke host proxy yang dikonfigurasi.
Buat kunci khusus untuk OpenClaw dengan batas pengeluaran:
curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'
Gunakan kunci yang dihasilkan sebagai LITELLM_API_KEY.
LiteLLM dapat merutekan permintaan model ke backend yang berbeda. Konfigurasikan di config.yaml LiteLLM Anda:
model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY
OpenClaw tetap meminta claude-opus-4-6 — LiteLLM menangani peruteannya.
Periksa dasbor atau API LiteLLM:
# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
  • LiteLLM berjalan di http://localhost:4000 secara default
  • OpenClaw terhubung melalui endpoint /v1 LiteLLM bergaya proxy yang kompatibel dengan OpenAI
  • Pembentukan permintaan khusus OpenAI native tidak berlaku melalui LiteLLM: tanpa service_tier, tanpa Responses store, tanpa petunjuk prompt-cache, dan tanpa pembentukan payload kompatibilitas penalaran OpenAI
  • Header atribusi OpenClaw tersembunyi (originator, version, User-Agent) tidak disuntikkan pada URL dasar LiteLLM kustom
Untuk konfigurasi penyedia umum dan perilaku failover, lihat Penyedia Model.

​
Terkait

Dokumentasi LiteLLM

Dokumentasi resmi LiteLLM dan referensi API.

Pemilihan model

Gambaran umum semua penyedia, referensi model, dan perilaku failover.

Konfigurasi

Referensi konfigurasi lengkap.

Pemilihan model

Cara memilih dan mengonfigurasi model.