Sergio Mironenko
Это не пробовал. Если хочешь вкатиться с малого, можешь кодекс за 20 баксов попробовать. Ну еще зависит от того, какие у тебя вообще требования, что за проекты.
Есть такое. Для общего потребителя конечно минус. Помню, что они когда-то выпускали большую память за деньги, где нвидиа давала меньшую. Если бы они так же для народа впаривались, возможно и доступная реально большая видеопамять не была бы с диким прям прайсом. Но конкретно по ценам я давненько не смотрел, что у них там, так как красных не рассматривал при сборке компа для локального инференса интересующих меня вещей.
50хх серия мастхев для локальных нейронок. Амд в этом движе глубого в жопе) Не просто так Nvidia и нейроускорители выпускает и вообще в эту индустрию вкладывается. Это автору я подчеркнул, если на это поле выходить, то только с карточкой от зеленых и желательно поновее и побольше в памяти)
Квантованные модельки всегда похуже будут, если не придумают какой-то крутой алгоритм, который вообще все в байтах перевернет. А так, пусть автор пробует, интересуется) Главное, что делом занят. Но комп конечно он собрал в основном для игр только и плохого качества локальных нейронок, даже с учетом всех оптимизаций, вот ему и пища на подумать. Вообще для прям частого кодинга само собой все проблемы решает 100-200 долларовый кодекс. Там прям фарш. Локально мне пока нравятся, как видео + картинки прокачиваются, быстрые бесконечные генерации и без цензуры. Нейронки, которые я юзал, для мувика с отрубанием конечностей зомби не хотели это делать, локальная Minimax не сопротивлялась)
Насчет первого согласен. Автор пришел с конкретным вопросом про эту модель и сборку, получил ответ. Про Minimax, если мы про локальный, говорим, то там лор версий навыходило с турбо, что на мой взгляд они только портят. 0.1 версия лоры, 8 шагов, euler и sa_solver уже дают хороший результат, но тут проблема в промптах. Я перегнал от huihui аблитированную 12b gemma в int8 convrot для производительности, описал ей системный промпт по гайду от самих minimax, я ей на человеческом описываю, она в деталях пишет промпт и все хотелки. Чем больше и детальней промпт, тем офигенней на выходе получается видео в Minimax. Без этого сам человек промпты пишет хуже, поэтому и получается не очень.
Никто не спорит, что модели с большим количеством параметров круче. Я использую кодекс чаще всего. Для небольших проектов ради интереса гоняю локальные нейронки, смотрю, как развиваются. Qwen 3.8 27b на самом деле сильно прокачали. Туда же отнесу последний Minimax H3 и другие интересные штуки. Люблю еще самостоятельно подредачить слои, погонять модельки в разные форматы. Все же не ограничивается только твоими личными задачами и интересами.
Ультра медленно будет он работать на такой сборке, постареешь, я серьезно. Для этого квена (он вышел прям таким, прожорливым очень по сравнению с 3.6) вообще лучше конечно чтобы все в видеопамять поместилось под какой-нибудь Q4. Я запускаю у себя на 5080 + 64озу ддр5, с оптимизациями, перераспределенияем слоев и скажем так, не супер быстро, отойти попить кофе пока она занимается делом, но моделька очень круто и мощно вайбит. На твоей сборке будет прям печаль. К слову, на мой взгляд, nvidia + cuda это в принципе то, что нужно нейронкам, а ты берешь амд, у которой поддержка довольно поздновато вышла и они не поспевают за nvidia в этом аспекте.
ПК. Луна в гашне себя сама не купит :)
Эти закругления везде отнимают много полезного пространства. Нц ок немного для дизайна закруглить, но полностью круглые элементы уже достали.
Клод код или Кодекс наверное лучше всего, универсальны. Можешь поискать что-то попроще, под твои задачи надо пробовать тогда. Если планируешь много инфы закладывать, то локально точно не получится, слишком много контекста нужно для нейронки выделять.