Почему файлы разных семейств не смешиваются

Почему LoRA для SDXL ничего не делает на Flux, а VAE от Flux ломает картинку SDXL.

Простыми словами

У каждого семейства свой внутренний язык:

  • Его латент имеет своё число каналов и свой смысл каждого числа. Латент SDXL для Flux как страница на языке, которому Flux не учили.
  • Его текстовый энкодер по-своему превращает слова в числа. Рисующая модель научилась следовать именно этим числам.
  • Его веса состоят из своих слоёв своей формы. LoRA это набор небольших изменений в названных слоях одной модели; у другой модели таких слоёв нет или они значат иное.
  • Его VAE сжимает и раскрывает свой формат латента.

Дообученные модели остаются в своём семействе. Поэтому Pony и Illustrious внутри это SDXL: LoRA для SDXL на них грузятся, хотя лучше подходят LoRA, обученные для Pony или Illustrious.

Что видно, если смешать

Что смешалиЧто происходит
LoRA другого семействаГрузится с предупреждениями «lora key not loaded» в журнале; видимых изменений нет или картинка портится
VAE другого семействаОшибка о каналах или формах, или не те цвета и шум
Текстовый энкодер другого семейства или не тот typeОшибка о размерах или картинки, которые не слушают промпт
Латент передан между семействамиШум, каша или ошибка
ControlNet другого семействаОшибка или никакого действия
LoRA Wan 1.3B на Wan 14B (размеры внутри семейства)Не грузится как надо

Что работает между семействами

Картинка. Пиксели значат одно и то же для любой модели. Раскройте VAE первого семейства, сожмите VAE второго и продолжайте. Так модель картинок делает первый кадр видео Wan, а одна модель доводит картинку другой.

Внутри семейства некоторые версии делят части: Wan 2.2 14B берёт VAE от Wan 2.1, и многие LoRA для Wan 2.1 14B работают на Wan 2.2 14B (проверяйте, результат бывает разный).

Как помогает приложение

Вкладка Модели показывает семейство каждого файла; карточка LoRA говорит, к каким вашим моделям она подходит и что моделей её семейства у вас нет. Проверка сообщает «Модели разных семейств» в одном пути и называет оба файла.

См. также

Страница перенесена из wiki репозитория приложения (docs/wiki/concepts/Why-Families-Do-Not-Mix.ru.md, ревизия b8e3f71). То же руководство встроено в приложение: «Справка ▸ Руководство».

Чтобы обновить её, выполните npm run import, а затем npm run build в папке сайта.