메인 콘텐츠로 건너뛰기

​
NVIDIA

NVIDIA는 Nemotron 및 NeMo 모델용 OpenAI 호환 API를 https://integrate.api.nvidia.com/v1에서 제공합니다. NVIDIA NGC의 API 키로 인증하세요.

​
CLI 설정

키를 한 번 내보낸 다음 온보딩을 실행하고 NVIDIA 모델을 설정하세요: 
export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct
여전히 --token을 전달하는 경우, 셸 기록과 ps 출력에 남는다는 점을 기억하세요. 가능하면 환경 변수를 사용하는 것이 좋습니다.

​
설정 스니펫

{
  env: { NVIDIA_API_KEY: "nvapi-..." },
  models: {
    providers: {
      nvidia: {
        baseUrl: "https://integrate.api.nvidia.com/v1",
        api: "openai-completions",
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
    },
  },
}

​
모델 ID

모델 참조이름컨텍스트최대 출력
nvidia/nvidia/llama-3.1-nemotron-70b-instructNVIDIA Llama 3.1 Nemotron 70B Instruct131,0724,096
nvidia/meta/llama-3.3-70b-instructMeta Llama 3.3 70B Instruct131,0724,096
nvidia/nvidia/mistral-nemo-minitron-8b-8k-instructNVIDIA Mistral NeMo Minitron 8B Instruct8,1922,048

​
참고

  • OpenAI 호환 /v1 엔드포인트입니다. NVIDIA NGC의 API 키를 사용하세요.
  • NVIDIA_API_KEY가 설정되면 제공자가 자동으로 활성화됩니다.
  • 번들 카탈로그는 정적이며 비용은 소스에서 기본값 0으로 설정됩니다.