Lmstudio

Они тоже ничего 😏 Можно сказать, составляют конкуренцию Qwen 3.5

Очень недурная локальная нейронка, говорит по делу, насыщено

Недавно в LM Studio (софт для запуска нейронок локально) зарелизилась интересная фича: speculative decoding, которая по обещаниями авторов дает прирост скорости от 1.3 до чуть ли не 2x. Выглядит слишком хорошо, что бы быть правдой.