Получилось нормально запустить ускорение INT8 ConvRot на Intel Arc B580 через Intel LLM Scaler в ComfyUI.
Популярное
Свежее
Моя лента
Сообщения
Рейтинг
Курс ИИ
Получилось нормально запустить ускорение INT8 ConvRot на Intel Arc B580 через Intel LLM Scaler в ComfyUI.
Лёгкий патч, который исправляет определение доступной VRAM на Intel XPU и использует подход, аналогичный тому, который ComfyUI применяет для NVIDIA. Патч позволил мне работать максимально комфортно даже с тяжелыми моделями без ошибок, вылетов, зависаний Ksampler.
Сделал патч для ComfyUI, который ускоряет загрузку и переключение больших моделей на медленных SSD до 2-х раз. Простейшая установка в custom nodes.
Уверен, что не все столкнулись с такой проблемой, но если это произошло, мое решение может помочь.