Ollama

Geri döngü, özel ağ, .local ve yalın ana makine adlı Ollama URL'leri gerçek bir bearer token gerektirmez. OpenClaw bunlar için ollama-local işaretçisini kullanır.

Herkese açık uzak ana makineler ve https://ollama.com gerçek bir kimlik bilgisi gerektirir: OLLAMA_API_KEY, bir kimlik doğrulama profili veya sağlayıcının apiKey değeri. Doğrudan barındırılan kullanım için ollama-cloud sağlayıcısını tercih edin.

api: "ollama" kullanan özel bir sağlayıcı aynı kurallara uyar. Örneğin, özel bir LAN ana makinesine yönlendirilen ollama-remote sağlayıcısı apiKey: "ollama-local" kullanabilir; alt ajanlar bu işaretçiyi eksik bir kimlik bilgisi olarak değerlendirmek yerine Ollama sağlayıcı kancası üzerinden çözümler. memory.search.provider ayrıca özel bir sağlayıcı kimliğine yönlendirilebilir; böylece gömmeler söz konusu Ollama uç noktasını kullanır.

auth-profiles.json, bir sağlayıcı kimliğinin kimlik bilgisini saklar; uç nokta ayarlarını (baseUrl, api, modeller, üstbilgiler, zaman aşımları) models.providers.<id> içine koyun. { "ollama-windows": { "apiKey": "ollama-local" } } gibi eski düz dosyalar çalışma zamanı biçimi değildir; openclaw doctor --fix bunları bir yedekle birlikte standart bir ollama-windows:default API anahtarı profiline dönüştürür. Bu eski dosyadaki bir baseUrl değeri gereksizdir ve sağlayıcı yapılandırmasına taşınmalıdır.

Ollama bellek gömmeleri için bearer kimlik doğrulamasının kapsamı, bildirildiği ana makineyle sınırlıdır:

• Sağlayıcı düzeyindeki bir anahtar yalnızca söz konusu sağlayıcının ana makinesine gönderilir.
• memory.search.remote.apiKey ve ajan başına geçersiz kılmalar yalnızca kendi uzak gömme ana makinelerine gönderilir.
• Yalnızca OLLAMA_API_KEY ortam değişkeni değeri, Ollama Cloud kuralı olarak değerlendirilir ve varsayılan olarak yerel/kendi kendine barındırılan ana makinelere gönderilmez.

Gateway ile aynı makinedeki Ollama otomatik olarak keşfedilir:

ollama serveollama pull gemma4export OLLAMA_API_KEY="ollama-local"openclaw models list --provider ollamaopenclaw models set ollama/gemma4

Elle tanımlanan modellere ihtiyacınız yoksa bir models.providers.ollama bloğu eklemeyin.

{  models: {    providers: {      ollama: {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 300,        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            reasoning: true,            input: ["text"],            params: {              num_ctx: 32768,              thinking: false,              keep_alive: "15m",            },          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/qwen3.5:9b" },    },  },}

contextWindow, OpenClaw'ın bağlam bütçesidir; params.num_ctx, Ollama'ya gönderilir. Donanım modelin duyurulan tam bağlamını çalıştıramadığında bunları uyumlu tutun.

Yerel arka plan programı olmadan doğrudan barındırılan modeller:

export OLLAMA_API_KEY="your-ollama-api-key"

{  models: {    providers: {      ollama: {        baseUrl: "https://ollama.com",        apiKey: "OLLAMA_API_KEY",        api: "ollama",        models: [          {            id: "kimi-k2.5:cloud",            name: "kimi-k2.5:cloud",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/kimi-k2.5:cloud" },    },  },}

Bu yapı yerine özel ollama-cloud sağlayıcı kimliği için Ollama Cloud bölümüne bakın.

Birden fazla Ollama sunucusu çalıştırırken özel sağlayıcı kimlikleri kullanılır; her biri kendi sunucusuna, modellerine, kimlik doğrulamasına ve zaman aşımına sahip olur.

{  models: {    providers: {      "ollama-fast": {        baseUrl: "http://mini.local:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [{ id: "gemma4", name: "gemma4", input: ["text"] }],      },      "ollama-large": {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 420,        contextWindow: 131072,        maxTokens: 16384,        models: [{ id: "qwen3.5:27b", name: "qwen3.5:27b", input: ["text"] }],      },    },  },  agents: {    defaults: {      model: {        primary: "ollama-fast/gemma4",        fallbacks: ["ollama-large/qwen3.5:27b"],      },    },  },}

OpenClaw, Ollama'yı çağırmadan önce etkin sağlayıcı önekini kaldırır (yalın bir ollama/ önekine geri döner); böylece ollama-large/qwen3.5:27b, Ollama'ya qwen3.5:27b olarak ulaşır.

Bazı yerel modeller basit istemleri işleyebilir ancak eksiksiz ajan araç yüzeyinde zorlanır. Genel çalışma zamanı ayarlarına dokunmadan önce araçları ve bağlamı sınırlayın:

{  agents: {    list: [      {        id: "local",        experimental: {          localModelLean: true,        },        model: { primary: "ollama/gemma4" },      },    ],  },  models: {    providers: {      ollama: {        baseUrl: "http://127.0.0.1:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [          {            id: "gemma4",            name: "gemma4",            input: ["text"],            params: { num_ctx: 32768 },            compat: { supportsTools: false },          },        ],      },    },  },}

compat.supportsTools: false seçeneğini yalnızca model veya sunucu araç şemalarında güvenilir biçimde başarısız olduğunda kullanın; bu seçenek kararlılık karşılığında ajan yeteneğini azaltır. localModelLean, açıkça gerekmedikçe ağır tarayıcı, cron, mesaj, medya oluşturma, ses ve PDF araçlarını doğrudan ajan yüzeyinden kaldırır ve daha büyük katalogları Araç Arama'nın arkasına yerleştirir. Ollama'nın çalışma zamanı bağlamını veya düşünme modunu değiştirmez. Döngüye giren ya da bütçesini gizli akıl yürütmeye harcayan küçük Qwen tarzı düşünme modelleri için bunu params.num_ctx ve params.thinking: false ile birlikte kullanın.

/v1/chat/completions arkasındaki bir proxy için api: "openai-completions" değerini açıkça ayarlayın:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: true, // varsayılan: true        apiKey: "ollama-local",        models: [...]      }    }  }}

Bu mod, akış ve araç çağırmayı aynı anda desteklemeyebilir; modelde params: { streaming: false } kullanmanız gerekebilir.

OpenClaw, Ollama'nın sessizce 4096 token'lık bir bağlama geri dönmemesi için bu modda varsayılan olarak options.num_ctx ekler. Proxy'niz bilinmeyen options alanlarını reddediyorsa bunu devre dışı bırakın:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: false,        apiKey: "ollama-local",        models: [...]      }    }  }}

Otomatik keşfedilen modellerde OpenClaw, özel Modelfile'lardan gelen daha büyük PARAMETER num_ctx değerleri de dâhil olmak üzere /api/show tarafından bildirilen bağlam penceresini kullanır; aksi takdirde OpenClaw'ın varsayılan Ollama bağlam penceresine geri döner.

Sağlayıcı düzeyindeki contextWindow, contextTokens ve maxTokens, bu sağlayıcı altındaki her model için varsayılanları belirler ve model başına geçersiz kılınabilir. contextWindow, OpenClaw'ın kendi istem/Compaction bütçesidir. Yerel /api/chat istekleri, params.num_ctx açıkça ayarlanmadıkça options.num_ctx değerini ayarlanmamış bırakır; böylece Ollama kendi model, OLLAMA_CONTEXT_LENGTH veya VRAM tabanlı varsayılanını uygular. Geçersiz, sıfır, negatif veya sonlu olmayan params.num_ctx değerleri yok sayılır. Daha eski bir yapılandırma, yerel istek bağlamını zorlamak için yalnızca contextWindow/maxTokens kullandıysa bunları params.num_ctx içine kopyalamak için openclaw doctor --fix komutunu çalıştırın. OpenAI uyumlu bağdaştırıcı, yapılandırılmış params.num_ctx veya contextWindow değerinden varsayılan olarak hâlâ options.num_ctx ekler; üst sistem options değerini reddediyorsa injectNumCtxForOpenAICompat: false ile devre dışı bırakın.

Yerel model girdileri ayrıca params altında yaygın Ollama çalışma zamanı seçeneklerini kabul eder; bunlar yerel /api/chat options olarak iletilir: num_keep, seed, num_predict, top_k, top_p, min_p, typical_p, repeat_last_n, temperature, repeat_penalty, presence_penalty, frequency_penalty, stop, num_batch, num_gpu, main_gpu, use_mmap ve num_thread. Birkaç anahtar (format, keep_alive, truncate, shift), iç içe options yerine üst düzey istek alanları olarak iletilir. OpenClaw yalnızca bu Ollama istek anahtarlarını iletir; dolayısıyla streaming gibi yalnızca çalışma zamanına ait parametreler Ollama'ya hiçbir zaman gönderilmez. Üst düzey think değerini ayarlamak için params.think (veya params.thinking) kullanın; false, Qwen tarzı düşünme modellerinde API düzeyindeki düşünmeyi devre dışı bırakır.

{  models: {    providers: {      ollama: {        contextWindow: 32768,        models: [          {            id: "llama3.3",            contextWindow: 131072,            maxTokens: 65536,            params: {              num_ctx: 32768,              temperature: 0.7,              top_p: 0.9,              thinking: false,            },          }        ]      }    }  }}

Model başına agents.defaults.models["ollama/<model>"].params.num_ctx da çalışır; ikisi de ayarlanmışsa açık sağlayıcı model girdisi önceliklidir.

OpenClaw, düşünmeyi Ollama'nın beklediği şekilde iletir: üst düzey think, options.think değil. /api/show değeri bir thinking yeteneği bildiren otomatik keşfedilmiş modeller /think low, /think medium, /think high ve /think max seçeneklerini sunar; düşünmeyen modeller yalnızca /think off seçeneğini sunar.

openclaw agent --model ollama/gemma4 --thinking offopenclaw agent --model ollama/gemma4 --thinking low

Alternatif olarak bir model varsayılanı ayarlayın:

{  agents: {    defaults: {      models: {        "ollama/gemma4": {          thinking: "low",        },      },    },  },}

Model başına params.think/params.thinking, belirli bir model için API düşünmesini devre dışı bırakabilir veya zorunlu kılabilir. Etkin çalıştırmada yalnızca örtük off varsayılanı bulunduğunda OpenClaw bu açık yapılandırmayı korur; /think medium gibi kapalı olmayan bir çalışma zamanı komutu yine de bunu geçersiz kılar. Doğru değerli bir düşünme isteği, açıkça reasoning: false olarak işaretlenmiş bir modele hiçbir zaman gönderilmez; think: false isteği ise her durumda gönderilir.

deepseek-r1, reasoning, reason veya think adlı modeller varsayılan olarak akıl yürütme yeteneğine sahip kabul edilir; ek yapılandırma gerekmez:

ollama pull deepseek-r1:32b

Ollama yerel olarak ve ücretsiz çalıştığından, hem otomatik keşfedilen hem de elle tanımlanan modellerin tüm model maliyetleri 0 değerindedir.

Paketle birlikte gelen Ollama Plugin'i, bellek araması için bir bellek gömme sağlayıcısı kaydeder. Yapılandırılmış Ollama temel URL'sini ve API anahtarını kullanır, /api/embed çağrısı yapar ve mümkün olduğunda birden fazla bellek parçasını tek bir input isteğinde toplar.

proxy.enabled=true olduğunda, yapılandırılmış baseUrl değerinden türetilen tam ana makine yerel geri döngü kaynağına yönelik gömme istekleri, yönetilen iletme proxy'si yerine OpenClaw'ın korumalı doğrudan yolunu kullanır. Yapılandırılmış ana makine adı bizzat localhost veya bir geri döngü IP sabiti olmalıdır; yalnızca geri döngüye çözümlenen DNS adları yine yönetilen proxy yolunu kullanır. LAN, tailnet, özel ağ ve genel Ollama ana makineleri her zaman yönetilen proxy yolunda kalır ve başka bir ana makineye/porta yönlendirmeler güveni devralmaz. proxy.loopbackMode: "proxy", geri döngü trafiğini yine de proxy üzerinden yönlendirir; proxy.loopbackMode: "block" ise bağlanmadan önce bunu reddeder; bkz. Yönetilen proxy.

Sorgu zamanı gömmeleri, bunları gerektiren veya öneren modeller için getirme öneklerini kullanır: nomic-embed-text, qwen3-embedding ve mxbai-embed-large. Belge grupları ham hâlde kalır, dolayısıyla mevcut dizinler için biçim geçişi gerekmez.

{  memory: {    search: {      provider: "ollama",      remote: {        // Ollama için varsayılan. Yeniden dizinleme çok yavaşsa daha büyük ana makinelerde artırın.        nonBatchConcurrency: 1,      },    },  },}

Uzak bir gömme ana makinesi için kimlik doğrulamayı o ana makineyle sınırlı tutun:

{  memory: {    search: {      provider: "ollama",      model: "nomic-embed-text",      remote: {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        nonBatchConcurrency: 2,      },    },  },}

Ollama varsayılan olarak, akış ve araç çağrısını birlikte destekleyen yerel API'yi (/api/chat) kullanır; özel yapılandırma gerekmez.

Yerel isteklerde düşünme denetimi doğrudan iletilir: açık bir params.think/params.thinking yapılandırılmadığı sürece /think off ve openclaw agent --thinking off, üst düzey think: false gönderir; /think low|medium|high eşleşen efor dizesini gönderir; /think max, Ollama'nın en yüksek eforu olan think: "high" değerine eşlenir.

NVIDIA/CUDA kullanılan WSL2'de resmî Ollama Linux yükleyicisi, Restart=always içeren bir ollama.service systemd birimi oluşturur. Bu hizmet otomatik başlatılır ve WSL2 önyüklemesi sırasında GPU destekli bir model yüklerse Ollama, yükleme esnasında ana makine belleğini sabitleyebilir; Hyper-V bellek geri kazanımı bu sayfaları her zaman geri kazanamaz. Bunun sonucunda Windows WSL2 sanal makinesini sonlandırabilir, systemd Ollama'yı yeniden başlatır ve döngü yinelenir.

Kanıtlar: yinelenen WSL2 yeniden başlatmaları/sonlandırmaları, WSL2 başlangıcından hemen sonra app.slice veya ollama.service içinde yüksek CPU kullanımı ve Linux OOM sonlandırıcısı yerine systemd'den gelen SIGTERM.

OpenClaw; WSL2'yi, Restart=always ile etkinleştirilmiş ollama.service değerini ve görünür CUDA işaretlerini algıladığında bir başlangıç uyarısı kaydeder.

Azaltma:

sudo systemctl disable ollama

Windows tarafında bunu %USERPROFILE%\.wslconfig dosyasına ekleyin, ardından wsl --shutdown komutunu çalıştırın:

[experimental]autoMemoryReclaim=disabled

Alternatif olarak canlı tutma süresini kısaltın / Ollama'yı yalnızca gerektiğinde elle başlatın:

export OLLAMA_KEEP_ALIVE=5mollama serve

Bkz. ollama/ollama#11317.

Ollama'nın çalıştığını, OLLAMA_API_KEY değerinin (veya bir kimlik doğrulama profilinin) ayarlandığını ve models.providers.ollama değerinin açıkça tanımlanmadığını doğrulayın:

ollama servecurl http://localhost:11434/api/tags

Modeli yerel olarak çekin veya models.providers.ollama içinde açıkça tanımlayın:

ollama list  # Nelerin yüklü olduğunu görünollama pull gemma4ollama pull gpt-oss:20bollama pull llama3.3     # Veya başka bir model

Gateway'i çalıştıran aynı makine ve çalışma zamanından doğrulayın:

openclaw gateway status --deepcurl http://ollama-host:11434/api/tags

Yaygın nedenler:

• baseUrl, localhost değerini gösteriyor ancak Gateway Docker'da veya başka bir ana makinede çalışıyor.
• URL, yerel Ollama yerine OpenAI uyumlu davranışı seçen /v1 değerini kullanıyor.
• Uzak ana makinede güvenlik duvarı veya LAN bağlama değişiklikleri gerekiyor.
• Model dizüstü bilgisayarınızdaki daemon'da bulunuyor ancak uzak daemon'da bulunmuyor.

Genellikle sağlayıcı OpenAI uyumlu moddadır veya model araç şemalarını işleyemiyordur. Yerel modu tercih edin:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434",        api: "ollama",      },    },  },}

Küçük bir yerel model araç şemalarında yine başarısız olursa o model girdisinde compat.supportsTools: false değerini ayarlayıp yeniden test edin.

Uzun, dilsel olmayan sembol dizilerinden oluşan barındırılan Kimi/GLM yanıtları, başarılı bir yanıt yerine başarısız bir sağlayıcı çağrısı olarak değerlendirilir. Böylece bozuk metni oturuma kalıcı olarak yazmak yerine normal yeniden deneme/yedek/ hata işleme devreye girer.

Sorun yinelenirse model adını, geçerli oturum dosyasını ve çalıştırmanın Cloud + Local mı yoksa Cloud only mı kullandığını kaydedin; ardından yeni bir oturum ve yedek model deneyin:

openclaw infer model run --model ollama/kimi-k2.5:cloud --prompt "Reply with exactly: ok" --jsonopenclaw models set ollama/gemma4

Büyük yerel modellerin ilk yüklemesi uzun sürebilir. Zaman aşımını Ollama sağlayıcısıyla sınırlayın ve isteğe bağlı olarak modeli dönüşler arasında yüklü tutun:

{  models: {    providers: {      ollama: {        timeoutSeconds: 300,        models: [          {            id: "gemma4:26b",            name: "gemma4:26b",            params: { keep_alive: "15m" },          },        ],      },    },  },}

Ana makinenin bağlantıları kabul etmesi de yavaşsa timeoutSeconds, bu sağlayıcı için korumalı bağlantı zaman aşımını da uzatır.

Birçok model, donanımınızın rahatça çalıştırabileceğinden daha geniş bağlamlar bildirir. params.num_ctx ayarlanmadığı sürece yerel Ollama kendi çalışma zamanı varsayılanını kullanır. Öngörülebilir ilk token gecikmesi için hem OpenClaw'ın bütçesini hem de Ollama'nın istek bağlamını sınırlayın:

{  models: {    providers: {      ollama: {        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            params: { num_ctx: 32768, thinking: false },          },        ],      },    },  },}

OpenClaw çok fazla istem gönderiyorsa contextWindow değerini düşürün. Ollama'nın çalışma zamanı bağlamı makine için çok büyükse params.num_ctx değerini düşürün. Üretim çok uzun sürüyorsa maxTokens değerini düşürün.