Get started
Plugin Llama Cpp
Plugin Llama Cpp
استنتاج متن و تعبیهسازیهای محلی GGUF از طریق node-llama-cpp.
توزیع
- بسته:
@openclaw/llama-cpp-provider - مسیر نصب: npm؛ ClawHub
سطح
ارائهدهندگان: llama-cpp؛ قراردادها: embeddingProviders
مدل متنی پیشفرض
در طول راهاندازی تعاملی، OpenClaw مدل Gemma 4 E4B IT Q4_K_M را بهصورت دانلود همراهی با حجم تقریبی 5.0 GB پیشنهاد میکند. این پیشنهاد به حداقل 16 GiB حافظهٔ RAM کل نیاز دارد. مدلهایی که از قبل در حافظهٔ نهان قرار دارند، همچنان در دستگاههای کوچکتر شناسایی میشوند.
برای استفاده از مدلی دیگر، params.modelPath را روی هر GGUF سفارشی تنظیم کنید. مدلهای سفارشی مشمول الزام RAM دانلود همراه نیستند. در دستگاههایی با حافظهٔ کمتر از مقدار موردنیاز، میتوانید مدلی کوچکتر را نیز از طریق Ollama یا LM Studio اجرا کنید، یا یک ارائهدهندهٔ ابری را برگزینید.
مستندات مرتبط
Was this useful?
