Привет! На этот раз мне удалось успешно запустить Kimi K2 Thinking (1T параметров) в llama.cpp на своём домашнем ПК. Моя конфигурация: CPU: Intel i9-13900KS RAM: 128 GB DDR5 @ 4800 MT/s GPU: RTX 4090 (24 GB VRAM) Storage: NVMe SSD 4TB (7300 MB/s read) Использую Unsloth UD-Q3_K_XL (~3.5 bits) из Hugging Face (GGUF): https://huggingface.co/unsl…
Uma Blog
с 2025
Популярно рассказываем о последних новостях ИИ и развиваем Umaai.site
1 подписчик
0 подписок
Umaai.site: нейросеть, которая превращает идеи в кино
Unsloth сделали то, что еще год назад казалось невозможным — ужали модель весом 715 ГБ до 170 ГБ, почти без потерь в качестве.Они использовали динамическую квантовку: важные слои остаются в 6–8 бит, а менее критичные ужимаются до меньшей разрядности. При этом для калибровки брали 2–3 миллиона токенов хороших данных, чтобы веса не «поехали».
Волна умных IDE продолжает расти: Cursor, Windsurf, Kiro, Zed…
Теперь к списку присоединился Qoder от Alibaba.
Главное:
- Автоподбор модели — Qoder сам выбирает лучшую LLM для задачи.
- Chat Mode — быстрые итерации и правки через чат.
- Quest Mode — пишешь нормальное ТЗ, и агент работает сам.
Возможности:
- Понимание структуры проекта, архитектуры…
Скинул подписчик, сделал с помощью Veo 3 Fast на Uma Ai
✔ Мы сделали ПОЛНОСТЬЮ бесплатного телеграм бота с ChatGPT - клик
👾 Друг Опенсурса
В линейке Gemma 3 появилась новая версия — Gemma 3 270M, рассчитанная на выполнение локальных задач прямо на устройствах. Несмотря на небольшой размер (270 млн параметров), модель демонстрирует уверенное следование инструкциям и хорошо подходит для дообучения под узкие домены.
Основные особенности:
• Структура: около 170 млн параметров выделено под э…
Я уже писал про Z.ai и их крутейшую вундервафлю - GLM 4.5. На момент обзора это был лидер среди опенсурсных моделек. И вот не прошло и недели, как ребята релизнули Vision версию! Если смотреть на метрики Vision - то модель не уступает современным лидерам компактных открытых моделей. Сама по себе модель хороша, так теперь и в визуал может! 🔗 Веса…
Знаете, когда хайпанули нейросети я начал верить в своеобразные приметы:
Пока все пишут, как же Riffusion "УНИЗИЛ", "УНИЧТОЖИЛ" И "ОПРОСТОВОЛОСИЛ" Suno, Суно ананосит свою студию Причём это то, о чем я думал и не понимал, почему этого не сделать раньше? Все инструменты были. Дать пользователю МАКСИМУМ контроля и гибкости - это же отлично.
🔗 Смотрим видосик, записываемся в лист ожидания - клик Что касается Ri…