Ana içeriğe atla

Groq

Groq, özel LPU donanımı kullanarak açık kaynaklı modellerde (Llama, Gemma, Mistral ve daha fazlası) ultra hızlı çıkarım sağlar. OpenClaw, Groq’a OpenAI uyumlu API’si üzerinden bağlanır.
  • Sağlayıcı: groq
  • Kimlik doğrulama: GROQ_API_KEY
  • API: OpenAI uyumlu

Hızlı başlangıç

  1. console.groq.com/keys adresinden bir API anahtarı alın.
  2. API anahtarını ayarlayın:
export GROQ_API_KEY="gsk_..."
  1. Varsayılan bir model ayarlayın:
{
  agents: {
    defaults: {
      model: { primary: "groq/llama-3.3-70b-versatile" },
    },
  },
}

Yapılandırma dosyası örneği

{
  env: { GROQ_API_KEY: "gsk_..." },
  agents: {
    defaults: {
      model: { primary: "groq/llama-3.3-70b-versatile" },
    },
  },
}

Ses transkripsiyonu

Groq ayrıca Whisper tabanlı hızlı ses transkripsiyonu da sağlar. Bir medya anlama sağlayıcısı olarak yapılandırıldığında OpenClaw, sesli mesajları paylaşılan tools.media.audio yüzeyi üzerinden yazıya dökmek için Groq’un whisper-large-v3-turbo modelini kullanır.
{
  tools: {
    media: {
      audio: {
        models: [{ provider: "groq" }],
      },
    },
  },
}

Ortam notu

Gateway bir daemon olarak çalışıyorsa (launchd/systemd), GROQ_API_KEY değerinin bu süreç için kullanılabilir olduğundan emin olun (örneğin ~/.openclaw/.env içinde veya env.shellEnv aracılığıyla).

Ses notları

  • Paylaşılan yapılandırma yolu: tools.media.audio
  • Varsayılan Groq ses base URL’si: https://api.groq.com/openai/v1
  • Varsayılan Groq ses modeli: whisper-large-v3-turbo
  • Groq ses transkripsiyonu OpenAI uyumlu /audio/transcriptions yolunu kullanır

Kullanılabilir modeller

Groq’un model kataloğu sık sık değişir. Şu anda kullanılabilir modelleri görmek için openclaw models list | grep groq komutunu çalıştırın veya console.groq.com/docs/models sayfasını kontrol edin. Popüler seçenekler şunlardır:
  • Llama 3.3 70B Versatile - genel amaçlı, geniş bağlam
  • Llama 3.1 8B Instant - hızlı, hafif
  • Gemma 2 9B - kompakt, verimli
  • Mixtral 8x7B - MoE mimarisi, güçlü reasoning

Bağlantılar