Кто отвечает
«Кто отвечает» это языковая модель за помощником. Она может быть облачной (OpenAI, Anthropic, Google Gemini или другой сервис с интерфейсом чата OpenAI: нужен ключ, и провайдер берёт плату) или стоять на вашем компьютере либо на другом у вас дома (Ollama, LM Studio, сервер llama.cpp, vLLM или любой сервер, совместимый с OpenAI: бесплатно, приватно, но нужна хорошая видеокарта). Урокам ни одна из них не нужна.
Как выбрать
- Откройте «Настройки ▸ Помощник»: шестерёнка ▸ Помощник, Помощник ▸ Настройки помощника… или Выбрать… (или Выбрать помощника…) на карточке «Добро пожаловать».
- Выберите карточку в разделе Кто отвечает.
- Заполните то, что нужно этому виду (ниже), выберите Модель, нажмите Проверить связь.
- Сохранить настройки.
Потом между настроенными можно переключаться кнопкой на панели сверху или через Помощник ▸ Кто отвечает; выбор сохраняется сразу.
Что нужно каждому виду
| Вид | Нужно | Страница |
|---|---|---|
| OpenAI | ключ, название модели | OpenAI |
| Anthropic | ключ, название модели | Anthropic |
| Google Gemini | ключ, название модели | Google Gemini |
| Совместимый с OpenAI | адрес сервиса с https, его собственный ключ, модель | Сервисы, совместимые с OpenAI |
| Свой сервер: Ollama | адрес (http://127.0.0.1:11434/v1), модель | Ollama |
| Свой сервер: LM Studio | адрес (http://127.0.0.1:1234/v1), модель | LM Studio |
| Свой сервер: llama.cpp | адрес llama-server (часто http://127.0.0.1:8080/v1), модель | Сервер llama.cpp |
| Свой сервер: vLLM или другой совместимый сервер | его адрес с /v1, модель | vLLM и другие совместимые серверы |
Как выбрать модель
- Она должна уметь вызывать инструменты. Помощник читает ваш каталог и строит через инструменты. Список моделей отмечает каждую инструменты или без инструментов; у модели без инструментов предупреждение «Эта модель не умеет вызывать инструменты, а помощнику они нужны, чтобы читать каталог и строить граф.»
- Чем больше, тем лучше строит. Маленькая локальная модель (несколько миллиардов параметров) отвечает на простые вопросы, но в сборке часто сбивается.
- Для локальной модели важно окно контекста: 16 384 токена или больше. См. Окно контекста.
- С какой модели начать, сколько она стоит и сколько ей нужно памяти: Какую модель взять.
Облако или свой сервер?
| Облако | Свой сервер | |
|---|---|---|
| Цена | провайдер берёт плату за использование | бесплатно, ваше электричество |
| Приватность | сообщения и граф уходят провайдеру | остаются на ваших компьютерах |
| Качество сборки | высокое | зависит от модели и железа |
| Настройка | вставить ключ | поставить и запустить сервер |
Что куда уходит: Что отправляется модели.