Ollama

URL-адреси Ollama для loopback, приватної мережі, .local і простого імені хоста не потребують справжнього bearer-токена. OpenClaw використовує для них маркер ollama-local.

Загальнодоступні віддалені хости та https://ollama.com потребують справжніх облікових даних: OLLAMA_API_KEY, профілю автентифікації або apiKey провайдера. Для безпосереднього використання розміщеної служби надавайте перевагу провайдеру ollama-cloud.

Власний провайдер із api: "ollama" дотримується тих самих правил. Наприклад, провайдер ollama-remote, спрямований на приватний хост локальної мережі, може використовувати apiKey: "ollama-local"; підагенти розпізнають цей маркер через хук провайдера Ollama, а не вважають його відсутніми обліковими даними. agents.defaults.memorySearch.provider також може вказувати на власний ідентифікатор провайдера, щоб вбудовування використовували цю кінцеву точку Ollama.

auth-profiles.json зберігає облікові дані для ідентифікатора провайдера; параметри кінцевої точки (baseUrl, api, моделі, заголовки, тайм-аути) слід указувати в models.providers.<id>. Старі пласкі файли, як-от { "ollama-windows": { "apiKey": "ollama-local" } }, не є форматом середовища виконання; openclaw doctor --fix перетворює їх на канонічний профіль API-ключа ollama-windows:default зі створенням резервної копії. Значення baseUrl у такому застарілому файлі є зайвим і має бути перенесене до конфігурації провайдера.

Bearer-автентифікація для вбудовувань пам’яті Ollama обмежена хостом, для якого її було оголошено:

• Ключ рівня провайдера надсилається лише на хост цього провайдера.
• agents.*.memorySearch.remote.apiKey надсилається лише на його віддалений хост вбудовувань.
• Чисте значення змінної середовища OLLAMA_API_KEY вважається домовленістю Ollama Cloud і за замовчуванням не надсилається локальним або самостійно розміщеним хостам.

Ollama на тому самому комп’ютері, що й Gateway, виявляється автоматично:

ollama serveollama pull gemma4export OLLAMA_API_KEY="ollama-local"openclaw models list --provider ollamaopenclaw models set ollama/gemma4

Не додавайте блок models.providers.ollama, якщо моделі не потрібно задавати вручну.

{  models: {    providers: {      ollama: {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 300,        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            reasoning: true,            input: ["text"],            params: {              num_ctx: 32768,              thinking: false,              keep_alive: "15m",            },          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/qwen3.5:9b" },    },  },}

contextWindow — це бюджет контексту OpenClaw; params.num_ctx надсилається до Ollama. Узгоджуйте їх, якщо обладнання не може виконувати модель із повним заявленим контекстом.

Без локального демона, безпосередньо розміщені моделі:

export OLLAMA_API_KEY="your-ollama-api-key"

{  models: {    providers: {      ollama: {        baseUrl: "https://ollama.com",        apiKey: "OLLAMA_API_KEY",        api: "ollama",        models: [          {            id: "kimi-k2.5:cloud",            name: "kimi-k2.5:cloud",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/kimi-k2.5:cloud" },    },  },}

Для спеціального ідентифікатора провайдера ollama-cloud замість цієї структури див. Ollama Cloud.

Власні ідентифікатори провайдерів під час роботи з кількома серверами Ollama; кожен має власний хост, моделі, автентифікацію та час очікування.

{  models: {    providers: {      "ollama-fast": {        baseUrl: "http://mini.local:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [{ id: "gemma4", name: "gemma4", input: ["text"] }],      },      "ollama-large": {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 420,        contextWindow: 131072,        maxTokens: 16384,        models: [{ id: "qwen3.5:27b", name: "qwen3.5:27b", input: ["text"] }],      },    },  },  agents: {    defaults: {      model: {        primary: "ollama-fast/gemma4",        fallbacks: ["ollama-large/qwen3.5:27b"],      },    },  },}

OpenClaw видаляє префікс активного провайдера (за відсутності використовує простий префікс ollama/) перед викликом Ollama, тому ollama-large/qwen3.5:27b надходить до Ollama як qwen3.5:27b.

Деякі локальні моделі опрацьовують прості запити, але мають труднощі з повним набором інструментів агента. Обмежте інструменти й контекст, перш ніж змінювати глобальні параметри середовища виконання:

{  agents: {    list: [      {        id: "local",        experimental: {          localModelLean: true,        },        model: { primary: "ollama/gemma4" },      },    ],  },  models: {    providers: {      ollama: {        baseUrl: "http://127.0.0.1:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [          {            id: "gemma4",            name: "gemma4",            input: ["text"],            params: { num_ctx: 32768 },            compat: { supportsTools: false },          },        ],      },    },  },}

Використовуйте compat.supportsTools: false, лише коли модель або сервер стабільно зазнає помилки на схемах інструментів — це обмінює можливості агента на стабільність. localModelLean вилучає ресурсомісткі інструменти браузера, cron, повідомлень, генерування медіа, голосу та PDF із безпосереднього набору інструментів агента, якщо вони явно не потрібні, і переміщує більші каталоги за Tool Search. Це не змінює контекст середовища виконання Ollama чи режим мислення. Поєднуйте це з params.num_ctx і params.thinking: false для невеликих моделей мислення в стилі Qwen, які зациклюються або витрачають свій бюджет на приховані міркування.

Явно задайте api: "openai-completions" для проксі за адресою /v1/chat/completions:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: true, // типове значення: true        apiKey: "ollama-local",        models: [...]      }    }  }}

Цей режим може не підтримувати потокове передавання та виклик інструментів одночасно; для моделі може знадобитися params: { streaming: false }.

У цьому режимі OpenClaw типово додає options.num_ctx, щоб Ollama не переходив непомітно до контексту на 4096 токенів. Якщо проксі відхиляє невідомі поля options, вимкніть це:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: false,        apiKey: "ollama-local",        models: [...]      }    }  }}

Для автоматично виявлених моделей OpenClaw використовує контекстне вікно, про яке повідомляє /api/show, включно з більшими значеннями PARAMETER num_ctx із власних Modelfile; інакше використовується типове контекстне вікно Ollama в OpenClaw.

contextWindow, contextTokens і maxTokens на рівні провайдера задають типові значення для кожної моделі цього провайдера, які можна перевизначити для окремої моделі. contextWindow — це власний бюджет запиту/Compaction OpenClaw. Нативні запити /api/chat не задають options.num_ctx, якщо ви явно не задасте params.num_ctx, тому Ollama застосовує власне типове значення моделі, OLLAMA_CONTEXT_LENGTH або значення на основі VRAM; недійсні, нульові, від’ємні або нескінченні значення params.num_ctx ігноруються. Якщо старіша конфігурація використовувала лише contextWindow/maxTokens, щоб примусово задати контекст нативного запиту, виконайте openclaw doctor --fix, щоб скопіювати їх у params.num_ctx. Адаптер, сумісний з OpenAI, як і раніше типово додає options.num_ctx із налаштованого params.num_ctx або contextWindow; вимкніть це за допомогою injectNumCtxForOpenAICompat: false, якщо сервер відхиляє options.

Записи нативних моделей також приймають загальні параметри середовища виконання Ollama в params, які передаються як нативні /api/chat options: num_keep, seed, num_predict, top_k, top_p, min_p, typical_p, repeat_last_n, temperature, repeat_penalty, presence_penalty, frequency_penalty, stop, num_batch, num_gpu, main_gpu, use_mmap і num_thread. Кілька ключів (format, keep_alive, truncate, shift) передаються як верхньорівневі поля запиту, а не як вкладені options. OpenClaw передає лише ці ключі запиту Ollama, тому параметри лише для середовища виконання, як-от streaming, ніколи не надсилаються до Ollama. Використовуйте params.think (або params.thinking), щоб задати верхньорівневий think; false вимикає мислення на рівні API для моделей мислення в стилі Qwen.

{  models: {    providers: {      ollama: {        contextWindow: 32768,        models: [          {            id: "llama3.3",            contextWindow: 131072,            maxTokens: 65536,            params: {              num_ctx: 32768,              temperature: 0.7,              top_p: 0.9,              thinking: false,            },          }        ]      }    }  }}

agents.defaults.models["ollama/<model>"].params.num_ctx для окремої моделі також працює; явний запис моделі провайдера має пріоритет, якщо задано обидва.

OpenClaw передає параметр мислення так, як очікує Ollama: верхньорівневий think, а не options.think. Автоматично виявлені моделі, для яких /api/show повідомляє про можливість thinking, надають /think low, /think medium, /think high і /think max; моделі без мислення надають лише /think off.

openclaw agent --model ollama/gemma4 --thinking offopenclaw agent --model ollama/gemma4 --thinking low

Або встановіть модель за замовчуванням:

{  agents: {    defaults: {      models: {        "ollama/gemma4": {          thinking: "low",        },      },    },  },}

Параметри окремої моделі params.think/params.thinking можуть вимкнути або примусово ввімкнути міркування API для певної моделі. OpenClaw зберігає цю явну конфігурацію, коли активний запуск має лише неявне значення за замовчуванням off; команда середовища виконання з режимом, відмінним від вимкненого, наприклад /think medium, усе одно має вищий пріоритет. Запит із увімкненим міркуванням ніколи не надсилається моделі, явно позначеній reasoning: false; запит think: false надсилається завжди.

Моделі з назвами deepseek-r1, reasoning, reason або think за замовчуванням вважаються здатними до міркування — додаткова конфігурація не потрібна:

ollama pull deepseek-r1:32b

Ollama працює локально й безплатно, тому вартість усіх моделей становить 0 як для автоматично виявлених, так і для визначених вручну моделей.

Вбудований Plugin Ollama реєструє постачальника вбудовувань пам’яті для пошуку в пам’яті. Він використовує налаштовані базову URL-адресу Ollama і ключ API, викликає /api/embed та, коли це можливо, об’єднує кілька фрагментів пам’яті в один запит input.

Коли proxy.enabled=true, запити вбудовування до точного локального loopback-джерела хоста, отриманого з налаштованого baseUrl, використовують захищений прямий шлях OpenClaw замість керованого проксі пересилання. Налаштоване ім’я хоста має бути саме localhost або літералом loopback-IP-адреси — DNS-імена, які лише розв’язуються в loopback-адресу, усе одно використовують шлях керованого проксі. Хости Ollama у LAN, tailnet, приватній або публічній мережі завжди залишаються на шляху керованого проксі, а переспрямування на інший хост або порт не успадковують довіру. proxy.loopbackMode: "proxy" усе одно спрямовує loopback-трафік через проксі; proxy.loopbackMode: "block" забороняє його до встановлення з’єднання — див. Керований проксі.

Вбудовування під час запиту використовують префікси отримання для моделей, які їх потребують або рекомендують: nomic-embed-text, qwen3-embedding та mxbai-embed-large. Пакети документів залишаються необробленими, тому наявні індекси не потребують міграції формату.

{  agents: {    defaults: {      memorySearch: {        provider: "ollama",        remote: {          // Стандартне значення для Ollama. Збільште на потужніших хостах, якщо повторне індексування надто повільне.          nonBatchConcurrency: 1,        },      },    },  },}

Для віддаленого хоста вбудовувань обмежте автентифікацію цим хостом:

{  agents: {    defaults: {      memorySearch: {        provider: "ollama",        model: "nomic-embed-text",        remote: {          baseUrl: "http://gpu-box.local:11434",          apiKey: "ollama-local",          nonBatchConcurrency: 2,        },      },    },  },}

Ollama за замовчуванням використовує власний API (/api/chat), який одночасно підтримує потокове передавання та виклики інструментів — спеціальна конфігурація не потрібна.

Для власних запитів керування міркуванням передається безпосередньо: /think off і openclaw agent --thinking off надсилають верхньорівневий think: false, якщо не налаштовано явний params.think/params.thinking; /think low|medium|high надсилають відповідний рядок інтенсивності; /think max відповідає найвищій інтенсивності Ollama — think: "high".

У WSL2 з NVIDIA/CUDA офіційний інсталятор Ollama для Linux створює модуль systemd ollama.service із Restart=always. Якщо ця служба запускається автоматично й завантажує модель із підтримкою GPU під час запуску WSL2, Ollama може закріпити пам’ять хоста під час завантаження; механізм повернення пам’яті Hyper-V не завжди може звільнити ці сторінки, тому Windows може завершити роботу віртуальної машини WSL2, systemd перезапускає Ollama, і цикл повторюється.

Ознаки: повторні перезапуски або завершення WSL2, високе навантаження на CPU в app.slice чи ollama.service одразу після запуску WSL2, а також SIGTERM від systemd, а не від засобу завершення процесів через нестачу пам’яті Linux.

OpenClaw записує попередження під час запуску, коли виявляє WSL2, увімкнений ollama.service із Restart=always та видимі маркери CUDA.

Спосіб усунення:

sudo systemctl disable ollama

У Windows додайте наведене нижче до %USERPROFILE%\.wslconfig, а потім виконайте wsl --shutdown:

[experimental]autoMemoryReclaim=disabled

Або скоротіть час підтримання активності чи запускайте Ollama вручну лише за потреби:

export OLLAMA_KEEP_ALIVE=5mollama serve

Див. ollama/ollama#11317.

Переконайтеся, що Ollama працює, OLLAMA_API_KEY (або профіль автентифікації) налаштовано, а models.providers.ollama не визначено явно:

ollama servecurl http://localhost:11434/api/tags

Завантажте модель локально або явно визначте її в models.providers.ollama:

ollama list  # Переглянути встановлені моделіollama pull gemma4ollama pull gpt-oss:20bollama pull llama3.3     # Або іншу модель

Перевірте на тій самій машині та в тому самому середовищі виконання, де працює Gateway:

openclaw gateway status --deepcurl http://ollama-host:11434/api/tags

Поширені причини:

• baseUrl указує на localhost, але Gateway працює в Docker або на іншому хості.
• URL-адреса використовує /v1, через що вибирається поведінка, сумісна з OpenAI, замість власної поведінки Ollama.
• Віддалений хост потребує змін у брандмауері або прив’язуванні до LAN.
• Модель є в демоні на вашому ноутбуці, але не у віддаленому демоні.

Зазвичай постачальник працює в режимі сумісності з OpenAI або модель не може обробляти схеми інструментів. Віддавайте перевагу власному режиму:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434",        api: "ollama",      },    },  },}

Якщо невелика локальна модель усе одно не може обробити схеми інструментів, установіть compat.supportsTools: false у записі цієї моделі та повторіть перевірку.

Довгі, позбавлені мовного змісту послідовності символів у відповідях розміщених Kimi/GLM вважаються невдалим викликом постачальника, а не успішною відповіддю, тому замість збереження пошкодженого тексту в сеансі застосовується звичайна обробка повторних спроб, резервної моделі або помилок.

Якщо це повториться, зафіксуйте назву моделі, поточний файл сеансу та чи використовував запуск Cloud + Local або Cloud only, а потім спробуйте новий сеанс і резервну модель:

openclaw infer model run --model ollama/kimi-k2.5:cloud --prompt "Відповідай точно: ok" --jsonopenclaw models set ollama/gemma4

Великим локальним моделям може знадобитися багато часу для першого завантаження. Обмежте час очікування постачальником Ollama та за потреби залишайте модель завантаженою між ходами:

{  models: {    providers: {      ollama: {        timeoutSeconds: 300,        models: [          {            id: "gemma4:26b",            name: "gemma4:26b",            params: { keep_alive: "15m" },          },        ],      },    },  },}

Якщо сам хост повільно приймає з’єднання, timeoutSeconds також подовжує захищений час очікування з’єднання для цього постачальника.

Багато моделей заявляють контексти, завеликі для комфортної роботи на вашому обладнанні. Власний режим Ollama використовує стандартне значення свого середовища виконання, якщо не встановлено params.num_ctx. Обмежте і бюджет OpenClaw, і контекст запиту Ollama, щоб забезпечити передбачувану затримку до першого токена:

{  models: {    providers: {      ollama: {        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            params: { num_ctx: 32768, thinking: false },          },        ],      },    },  },}

Зменште contextWindow, якщо OpenClaw надсилає надто великий запит. Зменште params.num_ctx, якщо контекст середовища виконання Ollama завеликий для машини. Зменште maxTokens, якщо генерування триває надто довго.