Providers

Groq

Groq bietet ultraschnelle Inferenz auf Open-Weight-Modellen (Llama, Gemma, Kimi, Qwen, GPT OSS und mehr) mit benutzerdefinierter LPU-Hardware. Das Groq-Plugin registriert sowohl einen OpenAI-kompatiblen Chat-Provider als auch einen Provider für Audio-Medienverständnis.

Eigenschaft Wert
Provider-ID groq
Plugin offizielles externes Paket
Auth-Umgebungsvariable GROQ_API_KEY
API OpenAI-kompatibel (openai-completions)
Basis-URL https://api.groq.com/openai/v1
Audio-Transkription whisper-large-v3-turbo (Standard)
Empfohlener Chat-Standard groq/llama-3.3-70b-versatile

Plugin installieren

Installieren Sie das offizielle Plugin und starten Sie anschließend den Gateway neu:

bash
openclaw plugins install @openclaw/groq-provideropenclaw gateway restart

Erste Schritte

  • API-Schlüssel abrufen

    Erstellen Sie einen API-Schlüssel unter console.groq.com/keys.

  • API-Schlüssel festlegen

    bash
    export GROQ_API_KEY=gsk_...
  • Standardmodell festlegen

    json5
    {  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}
  • Prüfen, ob der Katalog erreichbar ist

    bash
    openclaw models list --provider groq
  • Beispiel für eine Konfigurationsdatei

    json5
    {  env: { GROQ_API_KEY: "gsk_..." },  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}

    Integrierter Katalog

    OpenClaw liefert einen manifestgestützten Groq-Katalog mit Reasoning- und Nicht-Reasoning-Einträgen aus. Führen Sie openclaw models list --provider groq aus, um die statischen Zeilen Ihrer installierten Version anzuzeigen, oder prüfen Sie console.groq.com/docs/models für Groqs maßgebliche Liste.

    Modellreferenz Name Reasoning Eingabe Kontext
    groq/llama-3.3-70b-versatile Llama 3.3 70B Versatile nein Text 131,072
    groq/llama-3.1-8b-instant Llama 3.1 8B Instant nein Text 131,072
    groq/meta-llama/llama-4-scout-17b-16e-instruct Llama 4 Scout 17B nein Text + Bild 131,072
    groq/openai/gpt-oss-120b GPT OSS 120B ja Text 131,072
    groq/openai/gpt-oss-20b GPT OSS 20B ja Text 131,072
    groq/openai/gpt-oss-safeguard-20b Safety GPT OSS 20B ja Text 131,072
    groq/qwen/qwen3-32b Qwen3 32B ja Text 131,072
    groq/groq/compound Compound ja Text 131,072
    groq/groq/compound-mini Compound Mini ja Text 131,072

    Reasoning-Modelle

    OpenClaw ordnet seine gemeinsamen /think-Stufen den modellspezifischen reasoning_effort-Werten von Groq zu:

    • Für qwen/qwen3-32b sendet deaktiviertes Denken none und aktiviertes Denken default.
    • Für Groq-GPT-OSS-Reasoning-Modelle (openai/gpt-oss-*) sendet OpenClaw je nach /think-Stufe low, medium oder high. Bei deaktiviertem Denken wird reasoning_effort ausgelassen, da diese Modelle keinen deaktivierten Wert unterstützen.
    • DeepSeek R1 Distill, Qwen QwQ und Compound verwenden Groqs native Reasoning-Oberfläche; /think steuert die Sichtbarkeit, aber das Modell denkt immer.

    Siehe Denkmodi für die gemeinsamen /think-Stufen und wie OpenClaw sie pro Provider übersetzt.

    Audio-Transkription

    Das Groq-Plugin registriert außerdem einen Provider für Audio-Medienverständnis, damit Sprachnachrichten über die gemeinsame Oberfläche tools.media.audio transkribiert werden können.

    Eigenschaft Wert
    Gemeinsamer Konfigurationspfad tools.media.audio
    Standard-Basis-URL https://api.groq.com/openai/v1
    Standardmodell whisper-large-v3-turbo
    Automatische Priorität 20
    API-Endpunkt OpenAI-kompatibel /audio/transcriptions

    So machen Sie Groq zum Standard-Audio-Backend:

    json5
    {  tools: {    media: {      audio: {        models: [{ provider: "groq" }],      },    },  },}
    Umgebungsverfügbarkeit für den Daemon

    Wenn der Gateway als verwalteter Dienst ausgeführt wird (launchd, systemd, Docker), muss GROQ_API_KEY für diesen Prozess sichtbar sein – nicht nur für Ihre interaktive Shell.

    Benutzerdefinierte Groq-Modell-IDs

    OpenClaw akzeptiert zur Laufzeit jede Groq-Modell-ID. Verwenden Sie die exakte von Groq angezeigte ID und stellen Sie ihr groq/ voran. Der statische Katalog deckt die üblichen Fälle ab; nicht katalogisierte IDs fallen auf die standardmäßige OpenAI-kompatible Vorlage zurück.

    json5
    {  agents: {    defaults: {      model: { primary: "groq/<your-model-id>" },    },  },}

    Verwandte Themen

    Was this useful?
    On this page

    On this page