Установка Flash Attention в comfyui

Ставим ninja

.\python_embeded\python.exe -m pip install ninja packaging wheel

Проверяем ninja version

.\python_embeded\python -c "import ninja; print(f'ninja version: {ninja.version}')"

-----------------------------------------------------------------------------------------------------------------------

При запуске comfyui смотрим какие версии cuda, python и пр. у вас установлены. Затем скачиваем нужное "колесо" и переносим его в папку python_embeded

Устанавливаем его

.\python_embeded\python -m pip install "your_wheel_file"

Проверяем

.\python_embeded\python -c "import flash_attn; print(f'flash_attn version: {flash_attn.version}')"

P.S. Возможно потребуется поставить дополнительные библиотеки C++ (если выскочит что-то подобное, проконсультируйтесь с Чат ГПТ где это все скачать и как установить)