메인 콘텐츠로 건너뛰기

Documentation Index

Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

LiteLLM은 100개 이상의 모델 제공업체에 통합 API를 제공하는 오픈 소스 LLM Gateway입니다. OpenClaw를 LiteLLM을 통해 라우팅하면 중앙 집중식 비용 추적, 로깅, 그리고 OpenClaw 설정을 변경하지 않고 백엔드를 전환할 수 있는 유연성을 얻을 수 있습니다.
왜 OpenClaw와 함께 LiteLLM을 사용하나요?
  • 비용 추적 — OpenClaw가 모든 모델에서 지출하는 비용을 정확히 확인합니다
  • 모델 라우팅 — 설정 변경 없이 Claude, GPT-4, Gemini, Bedrock 간 전환합니다
  • 가상 키 — OpenClaw용 지출 한도가 있는 키를 생성합니다
  • 로깅 — 디버깅을 위한 전체 요청/응답 로그
  • 대체 처리 — 기본 제공업체가 중단된 경우 자동 장애 조치

빠른 시작

적합한 경우: 작동하는 LiteLLM 설정으로 가는 가장 빠른 경로.
1

Onboarding 실행

openclaw onboard --auth-choice litellm-api-key
원격 프록시에 대해 비대화형 설정을 하려면 프록시 URL을 명시적으로 전달하세요.
openclaw onboard --non-interactive --auth-choice litellm-api-key --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

설정

환경 변수

export LITELLM_API_KEY="sk-litellm-key"

설정 파일

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

고급 설정

이미지 생성

LiteLLM은 OpenAI 호환 /images/generations/images/edits 경로를 통해 OpenClaw의 image_generate 도구도 지원할 수 있습니다. agents.defaults.imageGenerationModel 아래에 LiteLLM 이미지 모델을 설정하세요.
{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}
http://localhost:4000 같은 loopback LiteLLM URL은 전역 사설 네트워크 재정의 없이 작동합니다. LAN에서 호스팅되는 프록시의 경우 API 키가 설정된 프록시 호스트로 전송되므로 models.providers.litellm.request.allowPrivateNetwork: true를 설정하세요.
지출 한도가 있는 OpenClaw 전용 키를 생성하세요.
curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'
생성된 키를 LITELLM_API_KEY로 사용하세요.
LiteLLM은 모델 요청을 다른 백엔드로 라우팅할 수 있습니다. LiteLLM config.yaml에서 설정하세요.
model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY
OpenClaw는 계속 claude-opus-4-6을 요청하고, LiteLLM이 라우팅을 처리합니다.
LiteLLM의 대시보드 또는 API를 확인하세요.
# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
  • LiteLLM은 기본적으로 http://localhost:4000에서 실행됩니다
  • OpenClaw는 LiteLLM의 프록시 스타일 OpenAI 호환 /v1 엔드포인트를 통해 연결됩니다
  • LiteLLM을 통해서는 네이티브 OpenAI 전용 요청 형태 조정이 적용되지 않습니다: service_tier 없음, Responses store 없음, prompt-cache 힌트 없음, 그리고 OpenAI 추론 호환 페이로드 형태 조정 없음
  • 사용자 지정 LiteLLM 기본 URL에는 숨겨진 OpenClaw 기여도 헤더(originator, version, User-Agent)가 삽입되지 않습니다
일반적인 제공업체 설정과 장애 조치 동작은 모델 제공업체를 참고하세요.

관련 항목

LiteLLM 문서

공식 LiteLLM 문서와 API 참조입니다.

모델 선택

모든 제공업체, 모델 참조, 장애 조치 동작의 개요입니다.

설정

전체 설정 참조입니다.

모델 선택

모델을 선택하고 설정하는 방법입니다.