Подключение локальных моделей через Ollama к OpenClaw: пошаговая инструкция

Подключение локальных языковых моделей к OpenClaw через Ollama даёт три ключевых преимущества. Во-первых, нулевая стоимость за запрос: после скачивания модели вы не платите за каждый вызов, что особенно важно с учётом механизма Heartbeat, генерирующего запросы каждые 30 минут. Во-вторых, полная конфиденциальность: все данные остаются на вашем компьютере, ни один символ не покидает вашу локальную сеть. В-третьих, отсутствие лимитов: никаких ограничений на количество запросов, размер контекста или скорость - всё определяется только мощностью вашего оборудования.

Ollama стал официально поддерживаемым провайдером OpenClaw в марте 2026 года, что значительно упростило интеграцию по сравнению с более ранними версиями.

Работа с локальными LLM предъявляет серьёзные требования к аппаратному обеспечению. Главный ограничивающий фактор - объём видеопамяти (VRAM) для GPU-ускорения или оперативной памяти для CPU-инференса.

Минимальные требования для моделей разного размера: Модели 7B параметров (Llama 3.3 8B, Qwen 2.5 7B): 8 ГБ VRAM или 16 ГБ RAM. Модели 14B параметров (Qwen 2.5 14B): 16 ГБ VRAM или 24 ГБ RAM. Модели 27-32B параметров (Qwen3.5 27B, DeepSeek-R1 32B): 24 ГБ VRAM или 48 ГБ RAM. Крупные модели 70B+ параметров: 48+ ГБ VRAM.

Квантизация Q4_K_M - оптимальный баланс между качеством и потреблением памяти для большинства пользователей. Она существенно снижает требования к памяти при минимальной потере качества генерации.

Агенты OpenClaw лучше всего работают с моделями, поддерживающими контекстное окно не менее 64 000 токенов.

Ollama - это инструмент для запуска локальных LLM, доступный для macOS, Linux и Windows. Установка максимально проста.

macOS: скачайте установщик с официального сайта или используйте Homebrew:

brew install ollama

Linux: используйте официальный скрипт установки:

curl -fsSL https://ollama.com/install.sh | sh

После установки запустите сервер Ollama:

ollama serve

Сервер начнёт слушать на порту 11434 по умолчанию. На macOS Ollama также можно запустить как приложение через Launchpad - оно автоматически стартует сервер в фоновом режиме.

Проверьте, что Ollama работает:

ollama --version
curl http://localhost:11434/api/tags

Выбор модели зависит от ваших аппаратных возможностей и требований к качеству. Вот рекомендации на июнь 2026 года.

Лучший вариант для начала - Llama 3.3 8B: она надёжно обрабатывает общие задачи, умещается в 8 ГБ RAM и загружается менее чем за 10 минут через Ollama.

ollama pull llama3.3

Для более сложных задач - Qwen 3.6 27B (рекомендуется): лучший 27B-вариант для программирования в 2026 году. Превосходит Qwen 2.5 и Qwen3.5 по бенчмаркам кодирования. Требует 24+ ГБ VRAM или 32+ ГБ RAM. Qwen 2.5 14B считается устаревшим в пользу Qwen 3.6.

ollama pull qwen3.6:27b

Предыдущий топовый вариант - Qwen3.5 27B (устарел): ранее показывал 72.4% на бенчмарке SWE-bench. Заменён Qwen 3.6 27B. Оставлен для совместимости со старыми конфигурациями.

ollama pull qwen3.6:27b  # рекомендуется
# или для старой конфигурации:
ollama pull qwen3.5:27b

Для рассуждений и аналитики - DeepSeek-R1: доступна в квантизованных версиях разного размера.

ollama pull deepseek-r1:14b

Для просмотра загруженных моделей используйте:

ollama list

После установки Ollama и загрузки модели настройте OpenClaw на использование локального провайдера. В файле ~/.openclaw/openclaw.json добавьте или обновите секцию провайдеров:

{
  "models": {
    "providers": [
      {
        "name": "ollama",
        "api": "openai-responses",
        "baseUrl": "http://localhost:11434/v1",
        "model": "qwen3.6:27b"
      }
    ]
  }
}

Обратите внимание на два важных нюанса. Параметр baseUrl указывает на API-эндпоинт Ollama с суффиксом /v1 - это активирует OpenAI-совместимый режим. Параметр api должен быть установлен в значение "openai-responses", что обеспечивает корректный формат обмена данными.

Проверьте, что OpenClaw корректно подключается к Ollama:

openclaw send "Привет! Какая ты модель?"

Агент должен ответить, указав название локальной модели.

Если OpenClaw работает в Docker-контейнере, а Ollama - на хост-машине, контейнер не может обращаться к localhost хоста напрямую. Используйте специальный DNS-адрес host.docker.internal:

{
  "models": {
    "providers": [
      {
        "name": "ollama",
        "api": "openai-responses",
        "baseUrl": "http://host.docker.internal:11434/v1",
        "model": "qwen3.6:27b"
      }
    ]
  }
}

На macOS с Docker Desktop host.docker.internal работает из коробки. На Linux может потребоваться дополнительная настройка в docker-compose.yml:

services:
  openclaw-gateway:
    extra_hosts:
      - "host.docker.internal:host-gateway"

Альтернативный подход - запустить и Ollama, и OpenClaw в Docker, объединив их в одну Docker-сеть. В этом случае сервисы обращаются друг к другу по именам контейнеров.

Скорость генерации локальных моделей зависит от множества факторов. Вот основные рекомендации по оптимизации.

GPU-ускорение: если у вас есть дискретная видеокарта NVIDIA с поддержкой CUDA или Apple Silicon (M1/M2/M3/M4), Ollama автоматически использует GPU для ускорения инференса. Убедитесь, что установлены актуальные драйверы. На Apple Silicon производительность особенно хороша благодаря унифицированной памяти.

Квантизация: модели с квантизацией Q4_K_M обеспечивают оптимальный баланс скорости и качества. Варианты Q5_K_M и Q6_K дают лучшее качество, но требуют больше памяти. Q3_K или Q2_K существенно снижают качество и рекомендуются только при жёстких ограничениях памяти.

Размер контекста: чем больше контекстное окно, тем больше памяти потребляет модель. Если ваши задачи не требуют длинного контекста, ограничьте его в настройках Ollama для экономии ресурсов.

Параллелизм: Ollama поддерживает обработку нескольких запросов одновременно. Для OpenClaw обычно достаточно одного параллельного слота, но если вы используете несколько агентов или каналов, увеличьте параметр OLLAMA_NUM_PARALLEL.

Для повседневного использования в качестве персонального ассистента (ответы на вопросы, заметки, напоминания) подойдёт Llama 3.3 8B - быстрая и достаточно умная. Для программирования и сложных аналитических задач лучше использовать Qwen 2.5 14B или Qwen3.5 27B. Для задач, требующих цепочки рассуждений (планирование, анализ), оптимален DeepSeek-R1 14B или 32B. Для Heartbeat-задач (проверка почты, простые напоминания) достаточно самой лёгкой модели, чтобы минимизировать нагрузку на систему.

Одна из уникальных возможностей связки OpenClaw + Ollama - полностью автономная работа без подключения к интернету. После скачивания моделей (которое требует интернета) вся дальнейшая работа происходит локально. Это важно для конфиденциальных данных, работы в изолированных сетях или регионах с нестабильным интернетом.

Для полностью офлайн-режима: убедитесь, что модели скачаны заранее (ollama list для проверки), отключите навыки, требующие интернета (веб-поиск, электронная почта), настройте агента на использование только локальных инструментов (файловая система, скрипты). В этом режиме OpenClaw продолжает работать как персональный ассистент с памятью, Heartbeat и навыками, но без доступа к внешним сервисам.

OpenClaw поддерживает одновременное использование нескольких провайдеров. Вы можете настроить Ollama как основной провайдер для экономии, а облачную модель (например, Claude Sonnet) - как резервную для задач, требующих максимального качества.

В конфигурации это выглядит как массив провайдеров в секции models.providers: первым указывается Ollama (будет использоваться по умолчанию), вторым - облачный провайдер (для fallback или явного указания).

Ollama не отвечает на запросы. Убедитесь, что сервер запущен (ollama serve) и слушает порт 11434. Проверьте доступность через curl http://localhost:11434/api/tags.

Модель работает очень медленно. Проверьте, используется ли GPU (команда nvidia-smi для NVIDIA). Если GPU недоступен, инференс происходит на CPU, что в 5-10 раз медленнее. Рассмотрите использование более лёгкой модели или квантизации Q4_K_M.

Ошибка нехватки памяти (OOM). Выбранная модель слишком велика для вашего оборудования. Переключитесь на модель меньшего размера или используйте более агрессивную квантизацию. На Apple Silicon Ollama использует унифицированную память (RAM), поэтому убедитесь, что свободно достаточно оперативной памяти.

OpenClaw не может подключиться к Ollama в Docker. Используйте host.docker.internal вместо localhost в baseUrl. На Linux добавьте extra_hosts в docker-compose.yml.

Агент генерирует некачественные ответы. Попробуйте более мощную модель. Модели 7B хороши для простых задач, но для сложного рассуждения и длинных инструкций нужна модель минимум 14B параметров.

Связка OpenClaw и Ollama предоставляет полностью бесплатного, приватного и автономного AI-агента. Качество локальных моделей в 2026 году достигло уровня, когда Qwen3.5 27B на одном потребительском GPU показывает результаты, сопоставимые с коммерческими облачными моделями. Для большинства задач персонального ассистента, автоматизации и управления умным домом локальных моделей более чем достаточно, а отсутствие расходов на API и полный контроль над данными делают этот подход привлекательным для широкого круга пользователей.

Обновление v2026.4.26 принесло улучшенную обработку памяти и потоков запросов Ollama. OpenClaw теперь корректно управляет очередью одновременных запросов к Ollama, не перегружая локальный сервер. Добавлен встроенный протокол обнаружения Ollama - агент автоматически находит локально запущенный экземпляр.

Провайдер web_search теперь доступен для Ollama-моделей. OpenClaw может перехватывать поисковые запросы агента и выполнять их через локальный прокси без отправки данных в облако. Это позволяет строить полностью офлайн-агентные рабочие процессы с поиском по локальным источникам.

MLX-производительность на Apple Silicon: модели через Ollama на M3 и M4 запускаются в 2-3 раза быстрее, чем на Intel Mac с аналогичным объёмом ОЗУ. Для максимальной производительности рекомендуется Ollama 0.23.x+ с MLX-движком, автоматически выбираемым на Apple Silicon.

Обновлённые рекомендации взамен устаревших моделей марта 2026. Для локального запуска через Ollama: Llama 4 Scout (ollama run llama4:scout) -- основная рекомендация для задач с кодом и аналитики. Qwen3 (ollama run qwen3:8b или qwen3:14b) -- отличный выбор для русскоязычных задач, хорошо понимает русский. Gemma 4 (ollama run gemma4:9b) -- для мультимодальных задач с изображениями. Ollama версии 0.23.x и новее -- используйте ollama --version для проверки.

Рекомендуемые модели для кода (май 2026): Kimi K2.6 добавлен как предпочтительная опция для задач программирования -- сочетает высокое качество с эффективным расходом памяти. Запуск: `ollama run kimi-k2.6`.

Ollama v0.30.6 (5 июня 2026) принёс улучшения, напрямую связанные с OpenClaw. Актуальная версия Ollama на начало июля 2026: v0.31.2 (6 июля 2026). Ниже описаны возможности, введенные с v0.30.6:

Per-agent local-model lean mode (OpenClaw 2026.5.20): теперь можно задать разную модель для разных агентов в мультиагентной системе. В конфигурации агента:

model: ollama/qwen3.6:27b
lean_mode: true # использовать локальную модель вместо облачной

Для запуска Kimi K2.6 через Ollama (требует значительных ресурсов -- рекомендуется квантизованная версия):

ollama pull kimi-k2.6:latest

Учтите, что полная модель требует несколько сотен ГБ. Для большинства задач рекомендуется использовать Kimi K2.6 через облачный API.

Gemma 4 с Multi-Token Prediction через MLX runner поддерживается начиная с Ollama v0.30.6. В версии v0.31.2 (6 июля 2026) MTP для Gemma 4 получил значительное ускорение: прирост скорости генерации составляет около 90% на Apple Silicon через MLX runner. Для использования убедитесь, что Ollama обновлён до v0.31.x, и запустите:

ollama run gemma4:27b

MTP автоматически активируется для Gemma 4 на Apple Silicon через MLX runner.

Актуальные рекомендации по моделям для Ollama на июнь 2026 года:

Начиная с 2026 года, Ollama поддерживает мультимодальные модели (vision+text). Это позволяет агенту OpenClaw анализировать изображения наряду с текстом. Для использования установите мультимодальную модель (например, ollama pull llava:latest или ollama pull gemma3:latest) и передавайте изображения через стандартный API OpenClaw.

Speculative decoding - технология ускорения генерации текста, доступная в последних версиях Ollama. При использовании подходящих моделей ускоряет работу в 1.5-2 раза без потери качества. Активируется автоматически для поддерживаемых моделей (Gemma 4 с MTP, некоторые версии Qwen). Дополнительная настройка не требуется.

По данным Q1 2026, Ollama достигла 52 млн загрузок в месяц. Это подтверждает статус Ollama как основного инструмента для запуска локальных LLM.

Примечание по устаревшим моделям: Qwen 2.5 и Qwen3.5 заменены на Qwen 3.6. Если у вас настроены старые конфигурации с qwen2.5 или qwen3.5, рекомендуем обновить их до qwen3.6:27b для лучшей производительности.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

Ollama v0.30.10 вышел с улучшениями производительности и исправлениями для работы с OpenClaw. В этой версии устранена проблема с зависанием при длинных агентных сессиях и улучшена совместимость с мультимодальными моделями. Обновление рекомендуется для всех пользователей OpenClaw.

Обновление Ollama: на macOS запустите `brew upgrade ollama`, на Linux - `curl -fsSL https://ollama.com/install.sh | sh`. После обновления перезапустите сервис `ollama serve`. OpenClaw автоматически подхватит новую версию без изменений конфигурации.

Актуальные модели, добавленные в Ollama к июню 2026 года и рекомендованные для использования с OpenClaw:

MLX engine для Apple Silicon: начиная с Ollama v0.30.x, MLX-движок активируется автоматически на Mac с процессорами M-серии. Это обеспечивает 2-3x ускорение по сравнению с Metal. Для OpenClaw-агентов на Mac рекомендуется обновить Ollama до v0.31.x для максимальной производительности, включая улучшенную поддержку Gemma 4 MTP со скоростью генерации до 90% выше на Apple Silicon.

К июлю 2026 года в Ollama появился ряд специализированных моделей для задач программирования, превосходящих предыдущие рекомендации. Если вы используете OpenClaw для написания кода, рефакторинга или code review -- обновите конфигурацию с учётом этих моделей.

qwen3-coder:30b -- лучший выбор для кодирования (июль 2026). По результатам актуальных бенчмарков на июль 2026 года, qwen3-coder:30b показывает наилучшие результаты среди локальных моделей для задач программирования. Особенно сильна в завершении кода, отладке и написании тестов. Требует GPU с 24+ ГБ VRAM или системы с 48+ ГБ RAM для работы в CPU-режиме:

ollama pull qwen3-coder:30b

Для подключения в OpenClaw в качестве профиля кодирования:

{
  "profiles": {
    "code": {
      "provider": "ollama",
      "model": "qwen3-coder:30b"
    }
  }
}

Переключение на профиль кода: openclaw --profile code send "Напиши unit-тест для этой функции".

devstral-small-2 -- рекомендуется для OpenClaw tool-calling. Mistral выпустила devstral-small-2 как специализированную модель для агентных задач с вызовом инструментов. Она заметно лучше работает с функциями tool use, чем общие модели схожего размера, и особенно хорошо подходит для OpenClaw-агентов, активно использующих инструменты (поиск, работа с файлами, API-вызовы):

ollama pull devstral-small-2

Модель занимает около 14 ГБ VRAM в формате Q4_K_M и отлично работает на видеокартах с 16 ГБ памяти. Для конфигурации агента с активным использованием инструментов devstral-small-2 является оптимальным выбором среди моделей, доступных локально на момент написания.

gpt-oss:20b -- открытая модель OpenAI для рассуждений на среднем железе. OpenAI выпустила gpt-oss:20b как открытую модель с весами для локального запуска. Модель размером 20B параметров показывает высокие результаты на задачах рассуждения и аналитики, при этом умещается на GPU с 16 ГБ VRAM:

ollama pull gpt-oss:20b

gpt-oss:20b особенно хороша для задач, требующих многошагового рассуждения: анализ документов, планирование, сложные вопросно-ответные сессии. Для задач чистого кодирования qwen3-coder:30b по-прежнему предпочтительнее, но gpt-oss:20b выигрывает там, где нужно сочетание рассуждений и кода.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.