Ollama

Локальным хостам и хостам LAN Ollama не нужен настоящий bearer token. OpenClaw использует локальный маркер ollama-local только для базовых URL Ollama с loopback, частной сетью, .local и простыми именами хостов.

Удаленные публичные хосты и Ollama Cloud (https://ollama.com) требуют реальные учетные данные через OLLAMA_API_KEY, профиль аутентификации или apiKey провайдера. Для прямого размещенного использования предпочитайте провайдер ollama-cloud.

Пользовательские id провайдеров, которые задают api: "ollama", следуют тем же правилам. Например, провайдер ollama-remote, указывающий на приватный хост Ollama в LAN, может использовать apiKey: "ollama-local", и подагенты будут разрешать этот маркер через хук провайдера Ollama, а не считать его отсутствующими учетными данными. Поиск по памяти также может задать agents.defaults.memorySearch.provider равным этому пользовательскому id провайдера, чтобы embeddings использовали соответствующий endpoint Ollama.

auth-profiles.json хранит учетные данные для id провайдера. Помещайте настройки endpoint (baseUrl, api, id моделей, заголовки, тайм-ауты) в models.providers.<id>. Старые плоские файлы профилей аутентификации, такие как { "ollama-windows": { "apiKey": "ollama-local" } }, не являются форматом времени выполнения; выполните openclaw doctor --fix, чтобы переписать их в канонический профиль API-ключа ollama-windows:default с резервной копией. baseUrl в этом файле является шумом совместимости и должен быть перенесен в конфигурацию провайдера.

Когда Ollama используется для embeddings памяти, bearer-аутентификация ограничена хостом, где она была объявлена:

• Ключ уровня провайдера отправляется только на хост Ollama этого провайдера.
• agents.*.memorySearch.remote.apiKey отправляется только на свой удаленный хост embedding.
• Чистое значение env OLLAMA_API_KEY рассматривается как соглашение Ollama Cloud и по умолчанию не отправляется локальным или самостоятельно размещенным хостам.

Используйте это, когда Ollama работает на той же машине, что и Gateway, и вы хотите, чтобы OpenClaw автоматически обнаруживал установленные модели.

ollama serveollama pull gemma4export OLLAMA_API_KEY="ollama-local"openclaw models list --provider ollamaopenclaw models set ollama/gemma4

Этот путь сохраняет конфигурацию минимальной. Не добавляйте блок models.providers.ollama, если не хотите определять модели вручную.

Используйте нативные URL Ollama для LAN-хостов. Не добавляйте /v1.

{  models: {    providers: {      ollama: {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 300,        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            reasoning: true,            input: ["text"],            params: {              num_ctx: 32768,              thinking: false,              keep_alive: "15m",            },          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/qwen3.5:9b" },    },  },}

contextWindow — это бюджет контекста на стороне OpenClaw. params.num_ctx отправляется в Ollama для запроса. Держите их согласованными, когда ваше оборудование не может запустить полный заявленный контекст модели.

Используйте это, когда вы не запускаете локальный daemon и хотите напрямую использовать размещенные модели Ollama.

export OLLAMA_API_KEY="your-ollama-api-key"

{  models: {    providers: {      ollama: {        baseUrl: "https://ollama.com",        apiKey: "OLLAMA_API_KEY",        api: "ollama",        models: [          {            id: "kimi-k2.5:cloud",            name: "kimi-k2.5:cloud",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "ollama/kimi-k2.5:cloud" },    },  },}

Используйте это, когда локальный или LAN daemon Ollama вошел в систему через ollama signin и должен обслуживать и локальные модели, и модели :cloud.

ollama signinollama pull gemma4

{  models: {    providers: {      ollama: {        baseUrl: "http://127.0.0.1:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 300,        models: [          { id: "gemma4", name: "gemma4", input: ["text"] },          { id: "kimi-k2.5:cloud", name: "kimi-k2.5:cloud", input: ["text", "image"] },        ],      },    },  },  agents: {    defaults: {      model: {        primary: "ollama/gemma4",        fallbacks: ["ollama/kimi-k2.5:cloud"],      },    },  },}

Используйте пользовательские ID провайдеров, когда у вас больше одного сервера Ollama. Каждый провайдер получает собственный хост, модели, auth, timeout и ссылки на модели.

{  models: {    providers: {      "ollama-fast": {        baseUrl: "http://mini.local:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [{ id: "gemma4", name: "gemma4", input: ["text"] }],      },      "ollama-large": {        baseUrl: "http://gpu-box.local:11434",        apiKey: "ollama-local",        api: "ollama",        timeoutSeconds: 420,        contextWindow: 131072,        maxTokens: 16384,        models: [{ id: "qwen3.5:27b", name: "qwen3.5:27b", input: ["text"] }],      },    },  },  agents: {    defaults: {      model: {        primary: "ollama-fast/gemma4",        fallbacks: ["ollama-large/qwen3.5:27b"],      },    },  },}

Когда OpenClaw отправляет запрос, активный префикс провайдера удаляется, поэтому ollama-large/qwen3.5:27b поступает в Ollama как qwen3.5:27b.

Некоторые локальные модели могут отвечать на простые промпты, но испытывают трудности с полной поверхностью инструментов агента. Начните с ограничения инструментов и контекста, прежде чем менять глобальные настройки среды выполнения.

{  agents: {    list: [      {        id: "local",        experimental: {          localModelLean: true,        },        model: { primary: "ollama/gemma4" },      },    ],  },  models: {    providers: {      ollama: {        baseUrl: "http://127.0.0.1:11434",        apiKey: "ollama-local",        api: "ollama",        contextWindow: 32768,        models: [          {            id: "gemma4",            name: "gemma4",            input: ["text"],            params: { num_ctx: 32768 },            compat: { supportsTools: false },          },        ],      },    },  },}

Используйте compat.supportsTools: false только когда модель или сервер стабильно не справляются со схемами инструментов. Это обменивает возможности агента на стабильность. localModelLean удаляет браузер, Cron и инструменты сообщений с прямой поверхности агента и по умолчанию помещает более крупные каталоги за структурированные элементы управления поиском инструментов, кроме случаев, когда запуск должен сохранить семантику прямой доставки сообщений, но не меняет контекст среды выполнения Ollama или режим мышления. Сочетайте это с явными params.num_ctx и params.thinking: false для небольших моделей мышления в стиле Qwen, которые зацикливаются или тратят бюджет ответа на скрытое рассуждение.

Если вместо этого нужно использовать OpenAI-совместимую конечную точку (например, за прокси, который поддерживает только формат OpenAI), явно задайте api: "openai-completions":

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: true, // default: true        apiKey: "ollama-local",        models: [...]      }    }  }}

Этот режим может не поддерживать потоковую передачу и вызов инструментов одновременно. Возможно, потребуется отключить потоковую передачу с помощью params: { streaming: false } в конфигурации модели.

Когда api: "openai-completions" используется с Ollama, OpenClaw по умолчанию внедряет options.num_ctx, чтобы Ollama не откатывалась молча к контекстному окну 4096. Если ваш прокси или вышестоящий сервис отклоняет неизвестные поля options, отключите это поведение:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434/v1",        api: "openai-completions",        injectNumCtxForOpenAICompat: false,        apiKey: "ollama-local",        models: [...]      }    }  }}

Для автоматически обнаруженных моделей OpenClaw использует контекстное окно, сообщаемое Ollama, когда оно доступно, включая более крупные значения PARAMETER num_ctx из пользовательских Modelfiles. В противном случае он откатывается к контекстному окну Ollama по умолчанию, используемому OpenClaw.

Вы можете задать значения по умолчанию contextWindow, contextTokens и maxTokens на уровне провайдера для каждой модели под этим провайдером Ollama, а затем переопределять их для отдельных моделей при необходимости. contextWindow — это бюджет промпта и Compaction в OpenClaw. Нативные запросы Ollama оставляют options.num_ctx незаданным, если вы явно не настроите params.num_ctx, поэтому Ollama может применить собственное значение по умолчанию на основе модели, OLLAMA_CONTEXT_LENGTH или VRAM. Чтобы ограничить или принудительно задать контекст среды выполнения Ollama для каждого запроса без пересборки Modelfile, задайте params.num_ctx; недопустимые, нулевые, отрицательные и не конечные значения игнорируются. Если вы обновили старую конфигурацию, которая использовала только contextWindow или maxTokens для принудительного задания контекста нативного запроса Ollama, запустите openclaw doctor --fix, чтобы скопировать эти явные бюджеты провайдера или модели в params.num_ctx. OpenAI-совместимый адаптер Ollama по-прежнему по умолчанию внедряет options.num_ctx из настроенных params.num_ctx или contextWindow; отключите это с помощью injectNumCtxForOpenAICompat: false, если ваш вышестоящий сервис отклоняет options.

Нативные записи моделей Ollama также принимают общие параметры среды выполнения Ollama в params, включая temperature, top_p, top_k, min_p, num_predict, stop, repeat_penalty, num_batch, num_thread и use_mmap. OpenClaw пересылает только ключи запросов Ollama, поэтому параметры среды выполнения OpenClaw, такие как streaming, не попадают в Ollama. Используйте params.think или params.thinking, чтобы отправить верхнеуровневый think Ollama; false отключает мышление на уровне API для моделей мышления в стиле Qwen.

{  models: {    providers: {      ollama: {        contextWindow: 32768,        models: [          {            id: "llama3.3",            contextWindow: 131072,            maxTokens: 65536,            params: {              num_ctx: 32768,              temperature: 0.7,              top_p: 0.9,              thinking: false,            },          }        ]      }    }  }}

agents.defaults.models["ollama/<model>"].params.num_ctx для каждой модели тоже работает. Если настроены оба варианта, явная запись модели провайдера имеет приоритет над значением по умолчанию агента.

Для нативных моделей Ollama OpenClaw пересылает управление мышлением так, как ожидает Ollama: верхнеуровневый think, а не options.think. Автоматически обнаруженные модели, чей ответ /api/show включает возможность thinking, предоставляют /think low, /think medium, /think high и /think max; модели без мышления предоставляют только /think off.

openclaw agent --model ollama/gemma4 --thinking offopenclaw agent --model ollama/gemma4 --thinking low

Также можно задать значение модели по умолчанию:

{  agents: {    defaults: {      models: {        "ollama/gemma4": {          thinking: "low",        },      },    },  },}

params.think или params.thinking для каждой модели могут отключить или принудительно включить мышление API Ollama для конкретной настроенной модели. OpenClaw сохраняет эти явные параметры модели, когда активный запуск имеет только неявное значение по умолчанию off; команды среды выполнения не off, такие как /think medium, все равно переопределяют активный запуск.

OpenClaw по умолчанию рассматривает модели с именами вроде deepseek-r1, reasoning или think как поддерживающие рассуждение.

ollama pull deepseek-r1:32b

Дополнительная настройка не требуется. OpenClaw помечает их автоматически.

Ollama бесплатна и работает локально, поэтому все стоимости моделей установлены в $0. Это относится как к автоматически обнаруженным, так и к вручную определенным моделям.

Встроенный Plugin Ollama регистрирует поставщика эмбеддингов памяти для поиска по памяти. Он использует настроенный базовый URL Ollama и ключ API, вызывает текущий endpoint Ollama /api/embed и, когда возможно, объединяет несколько фрагментов памяти в один запрос input.

Когда proxy.enabled=true, запросы эмбеддингов памяти Ollama к точному host-local loopback origin, выведенному из настроенного baseUrl, используют защищенный прямой путь OpenClaw вместо управляемого прокси пересылки. Настроенное имя хоста само должно быть localhost или буквальным loopback IP-адресом; DNS-имена, которые лишь разрешаются в loopback, все равно используют путь управляемого прокси. LAN, tailnet, частные сети и публичные хосты Ollama также остаются на пути управляемого прокси. Перенаправления на другой хост или порт не наследуют доверие. Операторы все еще могут задать глобальную настройку proxy.loopbackMode: "proxy", чтобы отправлять loopback трафик через прокси, или proxy.loopbackMode: "block", чтобы запрещать loopback подключения до открытия соединения; см. Управляемый прокси для эффекта этой настройки на весь процесс.

Эмбеддинги во время запроса используют префиксы извлечения для моделей, которым они требуются или рекомендованы, включая nomic-embed-text, qwen3-embedding и mxbai-embed-large. Пакеты документов памяти остаются необработанными, чтобы существующим индексам не требовалась миграция формата.

Чтобы выбрать Ollama как поставщика эмбеддингов для поиска по памяти:

{  agents: {    defaults: {      memorySearch: {        provider: "ollama",        remote: {          // Default for Ollama. Raise on larger hosts if reindexing is too slow.          nonBatchConcurrency: 1,        },      },    },  },}

Для удаленного хоста эмбеддингов держите аутентификацию ограниченной этим хостом:

{  agents: {    defaults: {      memorySearch: {        provider: "ollama",        model: "nomic-embed-text",        remote: {          baseUrl: "http://gpu-box.local:11434",          apiKey: "ollama-local",          nonBatchConcurrency: 2,        },      },    },  },}

Интеграция Ollama в OpenClaw по умолчанию использует нативный API Ollama (/api/chat), который полностью поддерживает потоковую передачу и вызов инструментов одновременно. Специальная конфигурация не требуется.

Для нативных запросов /api/chat OpenClaw также напрямую передает Ollama управление thinking: /think off и openclaw agent --thinking off отправляют верхнеуровневое think: false, если не настроено явное значение модели params.think/params.thinking, а /think low|medium|high отправляют соответствующую верхнеуровневую строку усилия think. /think max сопоставляется с самым высоким нативным усилием Ollama, think: "high".

В WSL2 с NVIDIA/CUDA официальный установщик Ollama для Linux создает unit systemd ollama.service с Restart=always. Если эта служба запускается автоматически и загружает модель с поддержкой GPU во время загрузки WSL2, Ollama может закрепить память хоста на время загрузки модели. Возврат памяти Hyper-V не всегда может вернуть эти закрепленные страницы, поэтому Windows может завершить VM WSL2, systemd снова запускает Ollama, и цикл повторяется.

Типичные признаки:

• повторные перезагрузки или завершения WSL2 со стороны Windows
• высокая CPU-нагрузка в app.slice или ollama.service вскоре после запуска WSL2
• SIGTERM от systemd, а не событие Linux OOM-killer

OpenClaw записывает предупреждение при запуске, когда обнаруживает WSL2, включенный ollama.service с Restart=always и видимые маркеры CUDA.

Смягчение:

sudo systemctl disable ollama

Добавьте это в %USERPROFILE%\.wslconfig на стороне Windows, затем выполните wsl --shutdown:

[experimental]autoMemoryReclaim=disabled

Установите более короткий keep-alive в окружении службы Ollama или запускайте Ollama вручную только тогда, когда он нужен:

export OLLAMA_KEEP_ALIVE=5mollama serve

См. ollama/ollama#11317.

Убедитесь, что Ollama запущен, что вы задали OLLAMA_API_KEY (или профиль аутентификации) и что вы не определили явную запись models.providers.ollama:

ollama serve

Проверьте, что API доступен:

curl http://localhost:11434/api/tags

Если вашей модели нет в списке, либо загрузите модель локально, либо явно определите ее в models.providers.ollama.

ollama list  # See what's installedollama pull gemma4ollama pull gpt-oss:20bollama pull llama3.3     # Or another model

Проверьте, что Ollama запущен на правильном порту:

# Check if Ollama is runningps aux | grep ollama # Or restart Ollamaollama serve

Проверьте с той же машины и среды выполнения, где работает Gateway:

openclaw gateway status --deepcurl http://ollama-host:11434/api/tags

Типичные причины:

• baseUrl указывает на localhost, но Gateway работает в Docker или на другом хосте.
• URL использует /v1, что выбирает OpenAI-совместимое поведение вместо нативного Ollama.
• Удаленному хосту нужны изменения firewall или привязки LAN на стороне Ollama.
• Модель присутствует в daemon на вашем ноутбуке, но отсутствует в удаленном daemon.

Обычно это означает, что поставщик использует OpenAI-совместимый режим или модель не может обрабатывать схемы инструментов.

Предпочитайте нативный режим Ollama:

{  models: {    providers: {      ollama: {        baseUrl: "http://ollama-host:11434",        api: "ollama",      },    },  },}

Если небольшая локальная модель все еще не справляется со схемами инструментов, задайте compat.supportsTools: false для записи этой модели и протестируйте повторно.

Размещенные ответы Kimi/GLM, представляющие собой длинные нелингвистические последовательности символов, обрабатываются как неудачный вывод поставщика, а не как успешный ответ ассистента. Это позволяет обычным повторным попыткам, fallback или обработке ошибок вступить в действие без сохранения поврежденного текста в сеанс.

Если это повторяется, сохраните исходное имя модели, текущий файл сеанса и сведения о том, использовал ли запуск Cloud + Local или Cloud only, затем попробуйте новый сеанс и fallback модель:

openclaw infer model run --model ollama/kimi-k2.5:cloud --prompt "Reply with exactly: ok" --jsonopenclaw models set ollama/gemma4

Большим локальным моделям может требоваться долгая первая загрузка перед началом потоковой передачи. Ограничьте тайм-аут поставщиком Ollama и при желании попросите Ollama держать модель загруженной между ходами:

{  models: {    providers: {      ollama: {        timeoutSeconds: 300,        models: [          {            id: "gemma4:26b",            name: "gemma4:26b",            params: { keep_alive: "15m" },          },        ],      },    },  },}

Если сам хост медленно принимает соединения, timeoutSeconds также расширяет защищенный тайм-аут подключения Undici для этого поставщика.

Многие модели Ollama объявляют контексты, которые больше, чем ваше оборудование может комфортно выполнять. Нативный Ollama использует собственное значение контекста среды выполнения Ollama по умолчанию, если вы не задаете params.num_ctx. Ограничьте и бюджет OpenClaw, и контекст запроса Ollama, когда вам нужна предсказуемая задержка до первого токена:

{  models: {    providers: {      ollama: {        contextWindow: 32768,        maxTokens: 8192,        models: [          {            id: "qwen3.5:9b",            name: "qwen3.5:9b",            params: { num_ctx: 32768, thinking: false },          },        ],      },    },  },}

Сначала уменьшите contextWindow, если OpenClaw отправляет слишком большой prompt. Уменьшите params.num_ctx, если Ollama загружает контекст среды выполнения, слишком большой для машины. Уменьшите maxTokens, если генерация выполняется слишком долго.