Статья - БАЗА, очень много полезной инфы (на английском, используйте переводчик)huggingface.coDavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters В· Hugging Face
Опять карасик про фурри-нейросети
Переводчик подсказывает:
Выжимаем максимум из нейронок