GPU-unlock ускоряет ИИ-задачи на RTX 30/40, но почти не помогает в генерации текста
Открытые проекты GPU-unlock и GPU-unlock-ADA снимают программное ограничение Nvidia на вычисления для нейросетей на игровых видеокартах RTX 30xx и RTX 40xx. По мнению экспертов отрасли, Nvidia намеренно ограничивает скорость таких вычислений, чтобы на игровых картах нельзя было эффективно запускать и обучать ИИ.
Разблокировщики запускаются до драйвера видеокарты и не меняют драйвер или прошивку. Они повышают производительность тензорных ядер — вычислительных блоков, ускоряющих работу нейросетей. По данным проекта, генерация картинок и видео на локальных моделях ускоряется почти на 60%; тесты показывают прирост до 60% в зависимости от модели и нагрузки.
В генерации текста нейросетями разблокировщики почти не помогают: там важны пропускная способность видеопамяти, оперативной памяти и процессора. Они не увеличивают пропускную способность видеопамяти и не открывают дополнительные вычислительные ядра, а доказательств влияния на игры нет. В нынешнем виде проекты интересны владельцам RTX 30/40 для ИИ-задач на своём компьютере.