Мистраль годная модель, даже оченьНе знаю насчет версии от Nvidia, но в KoboldAI/oobabooga 7b модель справляется лучше некоторых 13b моделей.
Вот бы попробовать 8x7b нормально, но блядский Хуанг не может больше 24гб завезти на свои карточки.
Мистраль годная модель, даже очень
Не знаю насчет версии от Nvidia, но в KoboldAI/oobabooga 7b модель справляется лучше некоторых 13b моделей.
Вот бы попробовать 8x7b нормально, но блядский Хуанг не может больше 24гб завезти на свои карточки.