Представлена генеративная нейросеть Intel Aurora с 1 триллионом параметров

Суперкомпьютер Aurora - это машина, которая прослужит для обучения модели искусственного интеллекта Aurora genAI. Как было объявлено на конференции ISC23, модель Aurora genAI будет обучена работе с общим текстом, научными текстами, научными данными и кодами, относящимися к предметной области. Это будет исключительно ориентированная на науку генеративная модель искусственного интеллекта.

Модель Aurora genAI будет обучаться на общедоступных данных, коде, научных текстах и структурированных научных данных из биологии, химии, материаловедения, физики, медицины и других источников. Это будет очень «начитанная» сеть, которая сможет разбираться в самых сложных вопросах — начиная от дизайна молекул и материалов до синтеза новых знаний из миллионов источников, чтобы предложить новые и интересные эксперименты в системной биологии, химии полимеров и энергетических материалов, климатологии и космологии. Модель также будет использоваться для ускорения идентификации биологических процессов, связанных с раком и другими заболеваниями, и определения целей для разработки лекарств.

Основой модели Intel Aurora genAI являются Megatron и DeepSpeed. Самое главное, что целевой размер для новой модели составляет 1 трлн параметров. Между тем, целевой размер для бесплатных и общедоступных версий ChatGPT для сравнения, это всего лишь 175 миллионов. Количество параметров увеличилось в 5,7 раза.

“Целью проекта является использование всего потенциала суперкомпьютера Aurora для создания ресурса, который может быть использован для научных исследований в лабораториях Министерства энергетики и в сотрудничестве с другими”, - сказал Рик Стивенс, заместитель директора лаборатории Аргонн.

#intel #chatgpt