Память видеокарты
Почему не помещается и что помогает: лёгкие файлы, выгрузка, задачи поменьше.
Простыми словами
У видеокарты своя память (VRAM), дома обычно 8 до 24 ГБ. Веса модели должны лежать там, пока она работает, вместе с латентом и промежуточными результатами каждого шага. Обычная память компьютера (RAM) больше, но до неё дольше добираться. Когда работа не помещается в VRAM, ComfyUI останавливается с ошибкой нехватки памяти (в журнале: OutOfMemoryError или «Allocation on device»).
Примерные размеры: чекпойнт SDXL около 7 ГБ в fp16; Flux.1 dev около 24 ГБ в fp16 и 12 ГБ в fp8; каждая модель Wan 2.2 14B около 14 ГБ в fp8; текстовый энкодер T5-XXL около 10 ГБ в fp16 и 5 ГБ в fp8.
Что занимает память
- Веса модели: самая большая часть. Несколько моделей в одном графе грузятся по очереди, если вместе не помещаются.
- Размер задачи: ширина × высота × кадры × пачка. Видео 720p на 81 кадр требует намного больше, чем картинка.
- Раскрытие: VAE Decode большой картинки или длинного ролика ненадолго требует много.
Что помогает, по порядку
- Уменьшить задачу: размер,
length,batch_size. Рисуйте мелко, увеличивайте потом. - Лёгкие файлы: версии моделей и текстовых энкодеров в fp8 (вдвое меньше fp16, небольшая потеря качества);
weight_dtypefp8 у Load Diffusion Model; GGUF-модели (Q8, Q6, Q5, Q4: меньше и медленнее, качество падает вместе с числом) через пак ComfyUI-GGUF и его ноды-загрузчики GGUF. - Выгрузка (offload): ComfyUI сам переносит модели между VRAM и RAM. Параметры запуска меняют, насколько сильно:
--lowvram(делить модель, держать части в RAM),--novram(почти ничего не держать в VRAM),--reserve-vram(оставить место другим программам). BlockSwap у WanVideoWrapper держит часть блоков модели в RAM. Всё это медленнее. - Плиточный VAE: VAE Decode (Tiled) для больших картинок и длинных роликов.
- Модели поменьше: Wan 2.2 5B вместо 14B; Z-Image Turbo или SDXL вместо Flux на слабых картах.
- Освобождать память между запусками: команды ComfyUI для выгрузки моделей и очистки кэша; закройте другие программы, которые занимают видеокарту.
Если не хватает даже RAM (компьютер уходит в подкачку или ComfyUI закрывается), файлы моделей слишком велики для машины: берите fp8 или GGUF.
Частые ошибки
- Файлы fp16 на карте 8 до 12 ГБ, когда есть версии fp8.
- Первая проба сразу в полном размере и длине.
- Две копии одной большой модели под разными нодами.
Как помогает приложение
Приложение не измеряет вашу видеокарту. Уроки называют файлы fp8 и советуют уменьшить размер или длину, если не хватает памяти. Уроки Когда граф не помещается в видеокарту, Когда видео не помещается в память и Квантованная модель: GGUF о памяти; урок WanVideoWrapper объясняет BlockSwap и квантизацию fp8.