Intel выпустила Xeon 6 «Granite Rapids»: 6980P со 128 ядрами и TDP 500 Вт
Переведено с помощью DeepL
Пресс Релиз
Intel представляет решения для ИИ нового поколения, выпуская Xeon 6 и Gaudi 3
Intel открывает новую эру высокопроизводительных корпоративных систем и решений в области ИИ.
- Intel выпускает Xeon 6 с производительными ядрами (P-Cores), удваивая производительность для рабочих нагрузок ИИ и высокопроизводительных вычислений.
- Новые ИИ-ускорители Gaudi 3 обеспечивают увеличение пропускной способности на 20% и двукратное соотношение цена/производительность по сравнению с H100 для вычислений LLaMa 2 70B1.
САНТА-КЛАРА, Калифорния, 24 сентября 2024 года - По мере того как ИИ продолжает революционизировать отрасли, предприятия все больше нуждаются в экономически эффективной и доступной для быстрой разработки и развертывания инфраструктуре. Чтобы удовлетворить этот спрос, Intel сегодня выпустила процессоры Xeon 6 с производительными ядрами (P-Cores) и ИИ-ускорители Gaudi 3, подкрепляя свое стремление к созданию мощных ИИ-систем с оптимальной производительностью на ватт и более низкой совокупной стоимостью владения (TCO).
Спрос на ИИ ведет к масштабным преобразованиям в центрах обработки данных, и отрасль требует выбора оборудования, ПО и инструментов для разработчиков.
С запуском Xeon 6 с P-Cores и ИИ-ускорителями Gaudi 3, Intel создает открытую экосистему, которая позволяет нашим клиентам реализовать все свои рабочие нагрузки с большей производительностью, эффективностью и безопасностью».
Представляем Intel Xeon 6 с P-Cores и ИИ-ускорителями Gaudi 3
Последние достижения Intel в области ИИ-инфраструктуры включают два крупных обновления в портфеле решений для центров обработки данных:
- Intel Xeon 6 с P-Cores: Xeon 6, предназначенный для выполнения интенсивных вычислительных нагрузок с исключительной эффективностью, обеспечивает вдвое большую производительность, чем его предшественник. Процессор отличается увеличенным количеством ядер, вдвое большей пропускной способностью памяти и возможностями ускорения ИИ, встроенными в каждое ядро. Этот процессор разработан для удовлетворения требований к производительности ИИ, начиная с периферии и заканчивая центрами обработки данных и облачными средами.
- ИИ-ускоритель Intel Gaudi 3: Специально оптимизированный для реализации масштабных генеративных ИИ, Gaudi 3 имеет 64 ядра тензорных процессоров (TPC) и восемь движков матричного умножения (MME) для ускорения вычислений глубоких нейронных сетей. Он включает 128 ГБ памяти HBM2e для обучения и выводов, а также 24 порта 200 Гбит Ethernet для масштабируемой сети. Gaudi 3 также предлагает полную совместимость с фреймворком PyTorch и усовершенствованные модели трансформации и диффузии Hugging Face. Недавно Intel объявила о сотрудничестве с IBM для развертывания ускорителей Intel Gaudi 3 AI в качестве сервиса в IBM Cloud. Благодаря этому сотрудничеству Intel и IBM стремятся снизить совокупную стоимость владения для использования и масштабирования ИИ, одновременно повышая производительность
Улучшение ИИ-систем за счет снижения совокупной стоимости владения
Масштабное развертывание ИИ-систем требует таких факторов, как гибкие возможности развертывания, конкурентное соотношение цены и производительности и доступность технологий ИИ. Надежная инфраструктура x86 и обширная открытая экосистема Intel позволяют ей оказывать поддержку предприятиям в создании высокоэффективных систем ИИ с оптимальной совокупной стоимостью владения и производительностью на ватт. Примечательно, что 73% серверов с GPU-ускорением используют Intel Xeon в качестве главного CPU.
Intel сотрудничает с ведущими OEM-производителями, включая Dell Technologies и Supermicro, для разработки совместных систем, отвечающих конкретным потребностям заказчиков, для эффективного внедрения ИИ. В настоящее время Dell Technologies совместно разрабатывает решения на базе RAG с использованием Gaudi 3 и Xeon 6.
Преодоление разрыва от прототипов до производства с помощью совместных разработок
При переходе от прототипов к готовым к производству системам генеративного ИИ (Gen AI) возникают проблемы мониторинга в реальном времени, обработки ошибок, протоколирования, безопасности и масштабируемости. Intel решает эти проблемы путем совместных разработок с OEM-производителями и партнерами, чтобы предоставить готовые к производству решения с дополненным поиском (retrieval-augmented generation, RAG).
Эти решения, построенные на платформе Open Platform Enterprise AI (OPEA), объединяют микросервисы на базе OPEA в масштабируемую систему RAG, оптимизированную для ИИ-систем Xeon и Gaudi и позволяющую заказчикам легко интегрировать приложения из Kubernetes, Red Hat OpenShift AI и Red Hat Enterprise Linux AI.
Расширение доступа к корпоративным ИИ-приложениям
Портфолио Intel Tiber предлагает бизнес-решения для решения таких проблем, как доступ, стоимость, сложность, безопасность, эффективность и масштабируемость в средах ИИ, облачных и периферийных средах. Облако Intel Tiber Developer Cloud теперь предоставляет предварительные системы Intel Xeon 6 для оценки и тестирования технологий. Кроме того, избранные заказчики получат ранний доступ к Intel Gaudi 3 для проверки развертывания моделей ИИ, а в следующем квартале начнется развертывание кластеров Gaudi 3 для крупномасштабных производственных внедрений.
Новые сервисные предложения включают SeekrFlow, комплексную ИИ-платформу от Seekr для разработки надежных ИИ-приложений. Последние обновления включают новейший выпуск ПО Intel Gaudi, блокноты Jupyter, загруженные с помощью PyTorch 2.4 и Intel oneAPI и AI tools 2024.2, которые включают новые возможности ускорения ИИ и поддержку процессоров Xeon 6.