Providers

Groq

Groq bietet ultraschnelle Inferenz für Open-Weight-Modelle (Llama, Gemma, Kimi, Qwen, GPT OSS und weitere) mithilfe spezieller LPU-Hardware. Das Groq-Plugin registriert sowohl einen OpenAI-kompatiblen Chat-Provider als auch einen Provider für das Medienverständnis von Audio.

Eigenschaft Wert
Provider-ID groq
Plugin offizielles externes Paket
Umgebungsvariable für die Authentifizierung GROQ_API_KEY
API OpenAI-kompatibel (openai-completions)
Basis-URL https://api.groq.com/openai/v1
Audiotranskription whisper-large-v3-turbo (Standard)
Empfohlenes Standard-Chatmodell groq/llama-3.3-70b-versatile

Plugin installieren

Installieren Sie das offizielle Plugin und starten Sie anschließend das Gateway neu:

bash
openclaw plugins install @openclaw/groq-provideropenclaw gateway restart

Erste Schritte

  • API-Schlüssel abrufen

    Erstellen Sie unter console.groq.com/keys einen API-Schlüssel.

  • API-Schlüssel festlegen

    bash
    export GROQ_API_KEY=gsk_...
  • Standardmodell festlegen

    json5
    {  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}
  • Erreichbarkeit des Katalogs überprüfen

    bash
    openclaw models list --provider groq
  • Beispiel für eine Konfigurationsdatei

    json5
    {  env: { GROQ_API_KEY: "gsk_..." },  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}

    Integrierter Katalog

    OpenClaw wird mit einem manifestgestützten Groq-Katalog ausgeliefert, der sowohl Einträge mit als auch ohne Reasoning enthält. Führen Sie openclaw models list --provider groq aus, um die statischen Zeilen Ihrer installierten Version anzuzeigen, oder prüfen Sie die maßgebliche Liste von Groq unter console.groq.com/docs/models.

    Modellreferenz Name Reasoning Eingabe Kontext
    groq/llama-3.3-70b-versatile Llama 3.3 70B Versatile nein Text 131,072
    groq/llama-3.1-8b-instant Llama 3.1 8B Instant nein Text 131,072
    groq/meta-llama/llama-4-scout-17b-16e-instruct Llama 4 Scout 17B nein Text + Bild 131,072
    groq/openai/gpt-oss-120b GPT OSS 120B ja Text 131,072
    groq/openai/gpt-oss-20b GPT OSS 20B ja Text 131,072
    groq/openai/gpt-oss-safeguard-20b Safety GPT OSS 20B ja Text 131,072
    groq/qwen/qwen3-32b Qwen3 32B ja Text 131,072
    groq/groq/compound Compound ja Text 131,072
    groq/groq/compound-mini Compound Mini ja Text 131,072

    Reasoning-Modelle

    Groq-Reasoning-Modelle (reasoning: true in der obigen Tabelle) bilden die gemeinsamen /think-Stufen von OpenClaw auf reasoning_effort-Werte von low, medium oder high ab. Bei /think off oder /think none wird reasoning_effort aus der Anfrage weggelassen, statt einen deaktivierten Wert zu senden.

    Unter Denkmodi finden Sie Informationen zu den gemeinsamen /think-Stufen und dazu, wie OpenClaw sie für jeden Provider übersetzt.

    Audiotranskription

    Das Groq-Plugin registriert außerdem einen Provider für das Medienverständnis von Audio, sodass Sprachnachrichten über die gemeinsame tools.media.audio-Schnittstelle transkribiert werden können.

    Eigenschaft Wert
    Gemeinsamer Konfigurationspfad tools.media.audio
    Standard-Basis-URL https://api.groq.com/openai/v1
    Standardmodell whisper-large-v3-turbo
    Automatische Priorität 20
    API-Endpunkt OpenAI-kompatibel /audio/transcriptions

    So legen Sie Groq als standardmäßiges Audio-Backend fest:

    json5
    {  tools: {    media: {      audio: {        models: [{ provider: "groq" }],      },    },  },}
    Verfügbarkeit der Umgebung für den Daemon

    Wenn das Gateway als verwalteter Dienst ausgeführt wird (launchd, systemd, Docker), muss GROQ_API_KEY für diesen Prozess sichtbar sein – nicht nur für Ihre interaktive Shell.

    Benutzerdefinierte Groq-Modell-IDs

    OpenClaw akzeptiert zur Laufzeit jede Groq-Modell-ID. Verwenden Sie die von Groq angezeigte exakte ID und stellen Sie ihr groq/ voran. Der statische Katalog deckt die üblichen Fälle ab; nicht katalogisierte IDs verwenden die OpenAI-kompatible Standardvorlage.

    json5
    {  agents: {    defaults: {      model: { primary: "groq/<your-model-id>" },    },  },}

    Verwandte Themen

    Was this useful?
    On this page

    On this page