NVIDIA представила функцию System Memory Fallback для Stable Diffusion

В драйвере 546.01 появилась новая функция "System Memory Fallback"

Переведено с помощью DeepL

В недавнем выпуске драйверов NVIDIA представила новую опцию в Панели Управления Nvidia, предназначенную для потребительских видеокарт GeForce.

Эта опция называется "CUDA - Sysmem Fallback Policy" и предназначена для решения задач, требующих большого объема памяти, таких как новые программы генеративного ИИ.

Эта функция предназначена в первую очередь для Stable Diffusion - программы, которая может потребовать одновременного использования до 6 Гбайт памяти.

Однако поскольку в популярных GPU максимальный объем памяти по-прежнему составляет от 6 до 8 ГБ, память GPU может быть разделена с другими рабочими нагрузками, что препятствует ее полному использованию такими программами, как Stable Diffusion.

Для решения этой проблемы NVIDIA реализовала новую функцию, которая позволяет приложениям не исчерпывать память GPU за счет эффективного переключения на общую системную память.

С технической точки зрения пользователи могут использовать эту функцию для любых приложений, включая игры.

Однако это может оказаться не самым лучшим выбором, поскольку системная память зачастую заметно медленнее памяти GPU, не говоря уже о необходимой передаче данных между ними.

Основная цель этой функции - предотвратить возможные сбои на видеокартах с объемом памяти 6 ГБ.

В последних версиях драйверов NVIDIA предусмотрительно включила опцию отключения этого резервного механизма.

Это может повысить стабильность производительности, но при этом вновь возникает риск истощения памяти GPU.

https://videocardz.com/newz/nvidia-introduces-system-memory-fallback-feature-for-stable-diffusion