Ollama

Ollama запускает языковые модели на вашем компьютере. Приложение говорит с ней через её адрес, совместимый с OpenAI. Ничего не уходит с компьютера, ключ не нужен. Саму Ollama ставят с её сайта (ollama.com/download); эта страница начинается с того места, где она уже установлена. На карточке Если ComfyUI ещё нет приветственного экрана есть Открыть страницу загрузки Ollama.

#Как настроить

1. Запустите Ollama и скачайте модель, которая умеет вызывать инструменты, в терминале. Приложение советует ollama pull qwen3:8b (около 5 ГБ скачать, около 8 ГБ видеопамяти). qwen3:14b нужно около 12 ГБ, qwen3:30b около 24 ГБ. Модели побольше строят лучше. См. Какую модель взять.
2. Увеличьте окно контекста хотя бы до 16 384 токенов (см. ниже). У самой Ollama по умолчанию оно маленькое.
3. В приложении: «Настройки ▸ Помощник» ▸ Свой сервер.
4. Приложение само ищет локальные серверы (Найти локальные серверы ищет снова). Ollama находится по адресу http://127.0.0.1:11434/v1 и появляется в списке поля Адрес сервера с пометкой «найден на этом компьютере». Выберите её или впишите адрес.
5. Модель: выберите из списка («Выбрать из 3 моделей на сервере»). В списке только модели для чата. Он отмечает инструменты или без инструментов, зрение, рассуждение и окно до N.
6. Проверить связь: «Модель ответила за 900 мс.» и окно контекста: «Окно контекста на сервере (в токенах): 16384. Запросы помощника помещаются.»
7. Сохранить настройки.

#Окно контекста

Ollama загружает модель с постоянным окном и молча отбрасывает то, что не поместилось. Приложение читает настоящее окно у Ollama, пока модель загружена, и предупреждает, если оно слишком маленькое.

Проще всего: после Проверить связь, если окно маленькое, нажмите Сделать копию с окном 16 384 токенов. Ollama сделает копию модели, которая загружается с бо́льшим окном; копия использует те же файлы, поэтому ничего не скачивается, и она сразу выбирается моделью. Нажмите Проверить связь снова, чтобы увидеть новое окно, затем сохраните настройки. Копии нужно больше памяти, чем исходной модели.

Чтобы увеличить окно для всех моделей вручную в Linux, когда Ollama работает как служба:

sudo systemctl edit ollama.service

Добавьте в редакторе эти две строки, сохраните и закройте:

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=16384"

Потом перезапустите её:

sudo systemctl daemon-reload && sudo systemctl restart ollama

Если вы запускаете Ollama вручную: OLLAMA_CONTEXT_LENGTH=16384 ollama serve. В контейнере: добавьте -e OLLAMA_CONTEXT_LENGTH=16384 в команду, которая его запускает. На другом компьютере задайте ту же переменную так, как там запускается Ollama; в Windows и macOS это переменная окружения для приложения Ollama. Как задать окно вручную в «Настройки ▸ Помощник» говорит то же самое. Большему окну нужно больше памяти; если модель стала медленной или не загружается, выберите размер поменьше или модель поменьше. Те же команды с кнопкой Скопировать приложение показывает, когда ответ обрезан. Подробнее: Окно контекста.

#Ollama на другом компьютере

Впишите его адрес, например http://192.168.1.50:11434/v1. Ollama должна слушать сеть (OLLAMA_HOST=0.0.0.0). Ваши сообщения и граф тогда идут по сети, а по http без шифрования.

#Что может пойти не так

• «Ни один локальный сервер не ответил. Чтобы модель была на этом компьютере, установите Ollama (ollama.com/download) и выполните «ollama pull qwen3:8b» (около 5 ГБ). Или запустите LM Studio, vLLM или сервер llama.cpp либо впишите адрес сами.»
• «Ollama не сделала копию. Задайте окно вручную, как описано ниже.» Задайте его вручную.
• «Сервер модели не отвечает. Проверьте, что он запущен, и адрес в настройках помощника.»
• «Выберите модель на своём сервере: её можно взять из списка под полем в разделе «Помощник».»
• «Модель прочитала только часть запроса»: окно слишком маленькое.

#См. также

• Окно контекста
• Кто отвечает
• Неудачные ответы
• Другой компьютер