Get started
Llama Cpp-Plugin
Llama Cpp-plugin
Lokale GGUF-tekstinferentie en embeddings via node-llama-cpp.
Distributie
- Pakket:
@openclaw/llama-cpp-provider - Installatieroute: npm; ClawHub
Oppervlak
providers: llama-cpp; contracten: embeddingProviders
Standaard tekstmodel
Tijdens de interactieve configuratie biedt OpenClaw Gemma 4 E4B IT Q4_K_M aan als een gebundelde download van ongeveer 5.0 GB. Dit aanbod vereist ten minste 16 GiB totaal RAM. Bestaande modellen in de cache worden nog steeds gedetecteerd op kleinere machines.
Als je een ander model wilt gebruiken, stel je params.modelPath in op een aangepaste GGUF. Voor aangepaste modellen
geldt de RAM-vereiste voor de gebundelde download niet. Op machines die niet aan de
vereiste voldoen, kun je ook een kleiner model uitvoeren via Ollama of LM Studio, of
een cloudprovider kiezen.
Gerelateerde documentatie
Was this useful?
