NVIDIA и Meta запустят суперкомпьютер мощностью 5 миллионов терафлопс для обучения ИИ с триллионом параметров

Его планируют использовать в том числе для синхронного перевода устной речи с разных языков, чтобы пользователи сервисов Meta могли вместе работать или, например, играть в AR-игру.

Суперкомпьютер под названием AI Research SuperCluster (RSC) создали за полтора года, но запустили пока не полностью — на всю мощность он должен будет работать с середины 2022 года.

В RSC уже используется 760 систем NVIDIA DGX A100, которые объединяют 6080 графических ускорителей. Связывает их архитектура NVIDIA Quantum со скоростью передачи данных в 200 Гбит в секунду.

До конца 2022 года Meta (ранее была Facebook) намерена довести количество активных ускорителей до 16 тысяч, после чего мощность RSC достигнет примерно 5 экзафлопс, то есть 5 миллионов терафлопс. Обрабатывать данные собираются со скоростью 16 терабайт в секунду.

Meta применяет RSC для тренировки алгоритмов ИИ. Когда суперкомпьютер запустят на полную мощность, с его помощью будут анализировать видео, текст и картинки, выявлять вредоносный контент, разрабатывать инструменты для дополненной реальности (AR), переводить текст и речь с сотен разных языков. Meta также собирается обучать ИИ с триллионом параметров, а в целом RSC ей нужен, чтобы развивать технологии для метавселенной.