Ускорил загрузку моделей ComfyUI в 2 раза! Sequential ReadAhead

Сделал патч для ComfyUI, который ускоряет загрузку и переключение больших моделей на медленных SSD до 2-х раз. Простейшая установка в custom nodes.

Устал от того, что на моей системе загрузка моделей идет в несколько раз дольше, чем генерация, и не успеваю нагенерить хентая пока жена отвернулась.

На моей системе время загрузки Flux 2 Klein, Krea 2 и Z-Image уменьшилось примерно на 39–47%.

Патч не ускоряет и не меняет качество самой генерации. Он ускоряет именно чтение больших файлов моделей с диска.

Обычно ComfyUI начинает загружать большой .safetensors файл и по мере необходимости читает данные с SSD.

ReadAhead работает немного иначе:

1. ComfyUI начинает загружать модель.

2. Параллельно запускается небольшой вспомогательный процесс.

3. Он последовательно читает файл модели с SSD.

4. Windows помещает прочитанные данные в файловый кэш в RAM.

5. Когда ComfyUI нужны эти данные, часть из них уже находится в памяти и не требует повторного ожидания SSD.

Проще говоря:

SSD → заранее читаем модель → Windows держит данные в RAM → ComfyUI получает их быстрее.

При этом патч следит за свободной оперативной памятью. Если RAM мало, он прочитает только часть модели или вообще отключит ReadAhead для этого файла.

Загрузка моделей на моем Crucial MX500 SATA SSD ускорилась до 47%.
Flux 2 Klein
БЫЛО ≈70 сек СТАЛО ≈37 сек
Krea 2
БЫЛО ≈76 сек СТАЛО ≈45 сек
Z-Image
БЫЛО ≈36 сек СТАЛО ≈22 сек

На быстрых NVMe выигрыш будет не так заметен.

Ссылка на Github

Самый простой вариант:

1. На GitHub нажать Code → Download ZIP.

2. Распаковать папку в:

ComfyUI/custom_nodes/

В итоге должно получиться:

ComfyUI/custom_nodes/ComfyUI-AVS-SSD-ReadAhead/

Ничего дополнительно устанавливать не нужно.

Откройте в папке custom_nodes командную строку (CMD) и введите команду:
git clone https://github.com/alvasafin-art/ComfyUI-AVS-SSD-ReadAhead.git

Чтобы удалить патч, достаточно папку снести из custom nodes.

Конечно, я не кодер, поэтому разрабатывал при помощи GPT и активно тестил несколько дней, добиваясь прироста скорости, сохранив при этом стабильность.

Если попробуете — буду рад результатам до/после, особенно с указанием SSD, RAM, GPU и модели.