Какие вообще есть локальные ИИшки?

Я ж тут недавно 7900хтх купил, у которой целых 24 гига видеопамяти. Да и линукс у меня в качестве главной ОС. И я тут подумал, что если заплатил за всю видюху, оо надо использовать всю видюху.

Что вообще можно локально сделать? Генератор текста у меня и так есть в лице грога, чата ГПТ, клауда и гемини. Генератор картинок? Можно, но я чет слышал, что для норм генерации модель еще и обучать надо самому, никто готовую тебе не даст.

22
10 комментариев

Могу вместо ии делать тебе тексты
2 тыщи рубле за слова
тыще рубле за картинки

Вроде у видюх от амуде проблемы с нейросетками.

Не на линуксе

есть на гитхабах и чужие модели обученные

На амд нету норм локалок.

Генератор картинок? Можно, но я чет слышал, что для норм генерации модель еще и обучать надо самому, никто готовую тебе не даст

CivitAI, конечно, начали цензурить тоже, но накачать моделек вполне себе можно, стейбл диффьюжен вроде более-менее подружили с электрообогревателями от амд

Можно посмотреть LM studio (типо локальный чат gpt с разными моделями )
https://lmstudio.ai/
Но хз поддерживает оно AMD