Providers
LiteLLM
LiteLLM 是一個開放原始碼的 LLM 閘道,提供統一 API,可連接 100 多個模型供應商。透過 LiteLLM 路由 OpenClaw,無須變更 OpenClaw 設定,即可集中追蹤成本、記錄日誌、使用具支出上限的虛擬金鑰,以及在後端間容錯移轉。
快速開始
初始設定(建議)
openclaw onboard --auth-choice litellm-api-key若要透過遠端代理伺服器進行非互動式設定,請明確傳入代理伺服器 URL:
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \ --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"手動設定
啟動 LiteLLM 代理伺服器
pip install 'litellm[proxy]'litellm --model claude-opus-4-6將 OpenClaw 指向 LiteLLM
export LITELLM_API_KEY="your-litellm-key"openclaw設定
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}初始設定寫入的預設模型是 litellm/claude-opus-4-6。
圖片生成
LiteLLM 可透過與 OpenAI 相容的 /images/generations 和 /images/edits 路由,為 image_generate 工具提供後端支援。預設圖片模型是 gpt-image-2;若要設定不同的模型,請在 agents.defaults.mediaModels.image 下設定:
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}本機迴路 LiteLLM URL(http://localhost:4000、127.0.0.1、::1、host.docker.internal)無須全域私人網路覆寫即可運作。若代理伺服器託管於區域網路,請設定 models.providers.litellm.request.allowPrivateNetwork: true,因為 API 金鑰會傳送至該主機。
進階
虛擬金鑰
為 OpenClaw 建立具支出上限的專用金鑰:
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "openclaw", "max_budget": 50.00, "budget_duration": "monthly" }'將產生的金鑰用作 LITELLM_API_KEY。
模型路由
LiteLLM 可將模型請求路由至不同的後端。請在你的 LiteLLM config.yaml 中設定:
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOpenClaw 會持續請求 claude-opus-4-6;LiteLLM 負責處理路由。
檢視用量
# 金鑰資訊curl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # 支出日誌curl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"代理伺服器行為注意事項
- LiteLLM 預設在
http://localhost:4000上執行。 - OpenClaw 透過 LiteLLM 代理伺服器形式且與 OpenAI 相容的
/v1端點連線。 - 透過已設定的 LiteLLM 基礎 URL 時,不會套用僅限原生 OpenAI 的請求格式調整:
不使用
service_tier、不使用 Responsesstore、不使用提示快取提示,也不調整 OpenAI 推理強度 承載資料的格式。 - 隱藏的 OpenClaw 歸屬標頭(
originator、version、User-Agent)只會傳送至 經驗證的原生 OpenAI 端點,因此不會注入自訂 LiteLLM 基礎 URL。
相關內容
Was this useful?