Яндекс выложил в открытый доступ свою модель Alice AI Search Pretrain
Яндекс опубликовал на Hugging Face базовую (pretrain) версию языковой модели Alice AI Search Pretrain. Именно её дообученная версия уже с июля работает в Поиске и генерирует быстрые ИИ-ответы под строкой поиска.
Что за модель:
- 35 миллиардов параметров.
- При генерации одного токена активируется всего около 600 миллионов (меньше 2 %).
- Гибридная архитектура: Encoder-Decoder + Mixture of Experts.
- Encoder-Decoder отвечает за отбор информации и генерацию короткого ответа.
- MoE включает только нужных экспертов под конкретную тему — модель работает быстрее и жрёт меньше вычислительных ресурсов.
По словам разработчиков, на русском языке она обходит компактные модели вроде Qwen 3.5 2B/4B и T5 Gemma 2 4B, а с гораздо более тяжёлой Qwen 3.5 35B-A3B показывает сопоставимые результаты.