NVIDIA
NVIDIA bietet unterhttps://integrate.api.nvidia.com/v1 eine OpenAI-kompatible API für offene Modelle kostenlos an. Authentifizieren Sie sich mit einem API-Schlüssel von build.nvidia.com.
CLI-Einrichtung
Exportieren Sie den Schlüssel einmal und führen Sie dann das Onboarding aus und setzen Sie ein NVIDIA-Modell:--token übergeben, denken Sie daran, dass es im Shell-Verlauf und in der ps-Ausgabe landet; verwenden Sie nach Möglichkeit bevorzugt die Umgebungsvariable.
Konfigurations-Snippet
Modell-IDs
| Model ref | Name | Kontext | Maximale Ausgabe |
|---|---|---|---|
nvidia/nvidia/nemotron-3-super-120b-a12b | NVIDIA Nemotron 3 Super 120B | 262,144 | 8,192 |
nvidia/moonshotai/kimi-k2.5 | Kimi K2.5 | 262,144 | 8,192 |
nvidia/minimaxai/minimax-m2.5 | Minimax M2.5 | 196,608 | 8,192 |
nvidia/z-ai/glm5 | GLM 5 | 202,752 | 8,192 |
Hinweise
- OpenAI-kompatibler
/v1-Endpunkt; verwenden Sie einen API-Schlüssel von build.nvidia.com. - Der Anbieter wird automatisch aktiviert, wenn
NVIDIA_API_KEYgesetzt ist. - Der gebündelte Katalog ist statisch; Kosten sind im Quellcode standardmäßig auf
0gesetzt.