Get started
Llama Cpp 外掛
Llama Cpp 外掛
透過 node-llama-cpp 進行本機 GGUF 文字推論與嵌入。
發布
- 套件：
@openclaw/llama-cpp-provider - 安裝途徑：npm；ClawHub
介面
提供者：llama-cpp；合約：embeddingProviders
預設文字模型
在互動式設定期間，OpenClaw 會提供 Gemma 4 E4B IT Q4_K_M，這是一個約 5.0 GB 的隨附下載項目。此選項要求系統總 RAM 至少為 16 GiB。 在記憶體較小的機器上，仍會偵測現有的快取模型。
若要使用其他模型，請將 params.modelPath 設為任何自訂 GGUF。自訂模型
不受隨附下載項目的 RAM 要求限制。在未達此要求的機器上，你也可以透過
Ollama 或 LM Studio 執行較小的模型，或選擇雲端提供者。
相關文件
Was this useful?
