Providers

Groq

Groq zapewnia ultraszybką inferencję na modelach o otwartych wagach (Llama, Gemma, Kimi, Qwen, GPT OSS i innych) przy użyciu niestandardowego sprzętu LPU. Plugin Groq rejestruje zarówno zgodnego z OpenAI dostawcę czatu, jak i dostawcę rozumienia multimediów audio.

Właściwość Wartość
Identyfikator dostawcy groq
Plugin oficjalny pakiet zewnętrzny
Zmienna env uwierzytelniania GROQ_API_KEY
API zgodne z OpenAI (openai-completions)
Bazowy URL https://api.groq.com/openai/v1
Transkrypcja audio whisper-large-v3-turbo (domyślnie)
Sugerowana domyślna wartość czatu groq/llama-3.3-70b-versatile

Zainstaluj Plugin

Zainstaluj oficjalny Plugin, a następnie uruchom ponownie Gateway:

bash
openclaw plugins install @openclaw/groq-provideropenclaw gateway restart

Pierwsze kroki

  • Uzyskaj klucz API

    Utwórz klucz API na stronie console.groq.com/keys.

  • Ustaw klucz API

    bash
    export GROQ_API_KEY=gsk_...
  • Ustaw domyślny model

    json5
    {  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}
  • Sprawdź, czy katalog jest osiągalny

    bash
    openclaw models list --provider groq
  • Przykład pliku konfiguracyjnego

    json5
    {  env: { GROQ_API_KEY: "gsk_..." },  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}

    Wbudowany katalog

    OpenClaw dostarcza oparty na manifeście katalog Groq z pozycjami obsługującymi rozumowanie i bez rozumowania. Uruchom openclaw models list --provider groq, aby zobaczyć statyczne wiersze dla zainstalowanej wersji, albo sprawdź console.groq.com/docs/models, aby uzyskać autorytatywną listę Groq.

    Odwołanie do modelu Nazwa Rozumowanie Dane wejściowe Kontekst
    groq/llama-3.3-70b-versatile Llama 3.3 70B Versatile nie tekst 131,072
    groq/llama-3.1-8b-instant Llama 3.1 8B Instant nie tekst 131,072
    groq/meta-llama/llama-4-scout-17b-16e-instruct Llama 4 Scout 17B nie tekst + obraz 131,072
    groq/openai/gpt-oss-120b GPT OSS 120B tak tekst 131,072
    groq/openai/gpt-oss-20b GPT OSS 20B tak tekst 131,072
    groq/openai/gpt-oss-safeguard-20b Safety GPT OSS 20B tak tekst 131,072
    groq/qwen/qwen3-32b Qwen3 32B tak tekst 131,072
    groq/groq/compound Compound tak tekst 131,072
    groq/groq/compound-mini Compound Mini tak tekst 131,072

    Modele rozumowania

    OpenClaw mapuje wspólne poziomy /think na specyficzne dla modeli Groq wartości reasoning_effort:

    • Dla qwen/qwen3-32b wyłączone myślenie wysyła none, a włączone myślenie wysyła default.
    • Dla modeli rozumowania Groq GPT OSS (openai/gpt-oss-*) OpenClaw wysyła low, medium lub high na podstawie poziomu /think. Wyłączone myślenie pomija reasoning_effort, ponieważ te modele nie obsługują wartości wyłączonej.
    • DeepSeek R1 Distill, Qwen QwQ i Compound używają natywnego interfejsu rozumowania Groq; /think kontroluje widoczność, ale model zawsze rozumuje.

    Zobacz Tryby myślenia, aby poznać wspólne poziomy /think i sposób, w jaki OpenClaw tłumaczy je dla poszczególnych dostawców.

    Transkrypcja audio

    Plugin Groq rejestruje też dostawcę rozumienia multimediów audio, dzięki czemu wiadomości głosowe można transkrybować przez wspólny interfejs tools.media.audio.

    Właściwość Wartość
    Wspólna ścieżka konfiguracji tools.media.audio
    Domyślny bazowy URL https://api.groq.com/openai/v1
    Domyślny model whisper-large-v3-turbo
    Automatyczny priorytet 20
    Punkt końcowy API Zgodny z OpenAI /audio/transcriptions

    Aby ustawić Groq jako domyślny backend audio:

    json5
    {  tools: {    media: {      audio: {        models: [{ provider: "groq" }],      },    },  },}
    Dostępność środowiska dla demona

    Jeśli Gateway działa jako usługa zarządzana (launchd, systemd, Docker), GROQ_API_KEY musi być widoczny dla tego procesu — nie tylko dla interaktywnej powłoki.

    Niestandardowe identyfikatory modeli Groq

    OpenClaw akceptuje w czasie działania dowolny identyfikator modelu Groq. Użyj dokładnego identyfikatora podanego przez Groq i poprzedź go prefiksem groq/. Katalog statyczny obejmuje typowe przypadki; identyfikatory spoza katalogu przechodzą do domyślnego szablonu zgodnego z OpenAI.

    json5
    {  agents: {    defaults: {      model: { primary: "groq/<your-model-id>" },    },  },}

    Powiązane

    Was this useful?
    On this page

    On this page