Ремарка Анатолия: 32 ядра, 3 видеокарты и БП на 1000W — разбираем AI-сервер, который нарушит все законы электротехники
Глубокий технический анализ объявления с Авито, где продают не железо, а коллекцию инженерных компромиссов. И да, у 3090 есть NVLink. Но его тут нет.
Приветствуем в первом выпуске рубрики «Ремарка Анатолия», где мы с научным подходом и долей здорового цинизма разбираем «уникальные» IT-решения с маркетплейсов. Сегодня под прицелом — «Высокопроизводительный AI сервер» за 450 000 рублей, который позиционируется как панацея для бизнеса, боящегося ФЗ-152. Погружаемся в технические дебри.
Акт I. Прелюдия: Маркетинг под соусом «Кибербезопасность»
«Ecли вaшa компания нe xочет нapушaть ФЗ о защитe пeрcoнaльных данныx, тo лoкальные нейpoсeти этo ваш выбоp!»
С первых же строк Анатолий берёт быка за рога. Он продаёт не комплектующие, а абстрактное чувство безопасности. Это гениальный ход, равносильный тому, чтобы продавать зонтик как защиту от падения кирпича на голову. Да, связь есть, но прямотой не пахнет. Ждём следующий пост от Анатолия про бухгалтерский учёт и кадровое делопроизводство.
«B течениe пoлугoда мы c кoллегaми тeстиpовали различное железо... и пришли к выводу, что... сервер ниже является золотой серединой!»
Полгода поисков. 180 дней экспериментов. И озарение снизошло в виде конфигурации, которая заставляет перечитать законы Ома. Давайте же изучим этот «эталон» внимательнее.
Акт II. Детальный разбор: Технический цирк с человеческим лицом
🛠 Материнская плата: Huananzhi H12D-8D — Лотерея, где главный приз — нестабильность
- Технические характеристики: Серверная плата под сокет SP3 для AMD EPYC, с поддержкой до 2 ТБ DDR4 и восемью слотами PCIe x16.
- Реальность: Huananzhi — это безымянный OEM-производитель, чьи платы известны своим непредсказуемым качеством VRM (модуль питания процессора) и низким сроком службы. Использование такой платы в качестве основы для «корпоративного сервера» — это акт бесстрашия, граничащего с безрассудством. Заявленный IPMI может оказаться «троянским конём» с уязвимостями или просто отключиться после первого же обновления. Вердикт: Это слабое звено, которое может похоронить всю систему в любой момент.
💿 Процессор: AMD EPYC 7532 — Тяжелая артиллерия для стрельбы по воробьям
- Технические характеристики: 32 ядра / 64 потока, архитектура Zen 2, TDP 200W, 4-канальный контроллер памяти DDR4-3200.
- Реальность: Безусловно, процессор мощный. Для виртуализации, СУБД или рендеринга на CPU — отличный выбор. Но для инференса нейросетей (LLM) он избыточен. Основная нагрузка ложится на видеокарты. Эти 32 ядра будут простаивать, в то время как ключевым узким местом станет подсистема питания и охлаждения. Вы платите за мощный двигатель, установленный на телегу с деревянными колёсами.
🎮 Видеокарты: 3x RTX 3090 — Трагедия трёх тесей в лабиринте без нити
- Технические характеристики: 24 ГБ GDDR6X каждая, 10496 ядер CUDA. И да, у 3090 есть интерфейс NVLink. Для двух карт существует мост, позволяющий объединить память в пул до 48 ГБ (в режиме NVLink Bridge) или организовать высокоскоростной обмен данными.
- Ключевая ошибка сборки: В конфигурации Анатолия NVLink не используется. Карты работают как три независимые единицы.
- Технические последствия: Для больших моделей (70B+): Модель необходимо разбивать на слои (tensor parallelism) и распределять по всем GPU. Без NVLink обмен данными между слоями идёт через шину PCIe 4.0 x16 (макс. ~32 ГБ/с на направление). Пропускная способность NVLink 3.0 у 3090 составляет ~100 ГБ/с на направление. Разница в 3 раза! Это напрямую ударит по скорости генерации (токенов в секунду).Теплопакет: 3 карты с TDP ~350W каждая — это ~1050W тепла, которое нужно рассеять. Заявленные 67-74°C в «стресс-тесте» вызывают вопросы. Какой тест? В реальной ML-нагрузке, где задействована и память, и ядра, температура будет выше, что приведёт к троттлингу и потере производительности, особенно в «кастомном корпусе».
⚡ Блок питания: 1000W — Русская рулетка с законами физики
- Технический расчёт: 3 x RTX 3090: Пиковое энергопотребление (Power Spikes) одной карты может достигать 450-500W. Для трёх — это ~1350W. AMD EPYC 7532: ~200W. Прочее (память, накопители, плата): ~100W. Суммарный пиковый потенциал: ~1650W.
- Реальность: Блок питания на 1000W будет постоянно работать в режиме перегрузки (overload). Это приведёт к: Перегреву и сокращению срока службы. Троттлингу системы при пиковых нагрузках (сбои вычислений).Риску полного отказа и повреждению компонентов.
- Вердикт: Это не просто ошибка, это прямая угроза работоспособности всего сервера.
Акт III. Сравнительный анализ: Что же купить на эти деньги?
Анатолий утверждает, что это «золотая середина». Давайте проверим это, собрав адекватную конфигурацию для задач инференса LLM.
Альтернативная сборка за ~450 000 рублей:
- Материнская плата: ASUS ProArt B650-CREATOR — стабильность, качество VRM, 2 слота PCIe x16 (x8/x8 электрически).
- Процессор: AMD Ryzen 9 7950X (16 ядер/32 потока) — более современная архитектура Zen 4, выше IPC, ниже TDP, достаточно ядер для препроцессинга.
- Видеокарта: Одна NVIDIA GeForce RTX 4090 24GB. Архитектура Ada Lovelace обеспечивает до 2x прироста в производительности для смешанной точности (FP8/FP16), используемой в ML. При инференсе одной модели она будет быстрее трёх 3090 без NVLink.
- Память: 96-128 ГБ DDR5-6000.
- Блок питания: Seasonic PRIME TX-1300 (1300W, 80+ Titanium) — запас по мощности, высочайший КПД и гарантия надёжности.
- Накопитель: 2 ТБ Samsung 990 Pro (для ОС, моделей и быстрого доступа к данным).
Итог сравнения: Новая система будет стабильнее, холоднее, тише, энергоэффективнее и покажет более высокую реальную производительность в целевых задачах инференса.
Акт IV. Заключение и Вердикт
Творение Анатолия — это наглядное пособие по тому, как не нужно собирать ML-инфраструктуру. Это коллекция технических компромиссов, собранная под соусом агрессивного маркетинга.
Присуждаем серверу следующие ачивки:
- 🏆 «Опальный Пиротехник» — за блок питания, который работает на пределе и за гранью дозволенного.
- 🏆 «Маркетинговый Гуру» — за искусную продажу недостатков (отсутствие NVLink, ноунейм-плата) как «золотой середины».
- 🏆 «Инженер-Оптимист» — за веру в то, что Huananzhi и перегруженный БП — это основа для корпоративного сервера.
- 🏆 «Мастер Разочарования» — за обещание высокой скорости для 70B+ моделей, которую невозможно достичь без NVLink.
Общий вердикт: «Technically Debt». Покупка этой системы — это осознанное приобретение технического долга, который вы будете выплачивать ремонтами, простоями и заниженной производительностью. Настоятельно не рекомендуется.
Анатолию желаем успехов в дальнейших изысканиях. Возможно, в следующий раз он протестирует и откроет для себя существование NVLink-мостов.
P.S. Все совпадения с реальными Анатолиями считаются случайными и невероятно забавными.