AMD выпустила Peano, компилятор LLVM с открытым исходным кодом для NPU Ryzen AI - XDNA и XDNA2
Переведено с помощью DeepL
Серия Ryzen 7000, известная как Phoenix, включала ускоритель Xilinx AI (XDNA), с момента его дебюта прошло более года, и в результате обновлений кремния в версии Hawk Point он стал еще быстрее, но только после недавнего анонса серии Ryzen AI 300 компания AMD представила компилятор LLVM с открытым исходным кодом, специально разработанный для этих процессоров.
Процессоры AMD Ryzen AI:
- Ryzen 7000 «Phoenix»: XDNA до 10 TOPS
- Ryzen 8000 «Hawk Point»: XDNA до 16 TOPS
- Ryzen AI 300 «Strix Point»: XDNA2 до 50 TOPS 🆕
Важность встроенных NPU будет продолжать расти: AMD, Intel, а вскоре и Qualcomm примут участие в новой гонке за самое быстрое ускорение ИИ на своих устройствах.
Эти новые специализированные блоки для машинного обучения будут использоваться в новых технологиях Windows и служить ускорителями для сторонних инструментов, таких как локально запускаемые большие языковые модели (LLM).
От имени AMD я рад объявить об открытом сорсинге бэкенда LLVM для процессоров AMD/Xilinx AI Engine. Эти процессоры существуют в ряде устройств, включая процессоры Ryzen AI. В настоящее время репозиторий ориентирован на поддержку архитектуры AIE2, реализованной в ускорителях XDNA в процессорах «Phoenix» и «Hawk Point».
...
Обратите внимание, что эти ускорители включают в себя массив процессоров, в то время как бэкенд LLVM поддерживает только один процессор. Поддержка устройств в целом доступна в инструментах с открытым исходным кодом на базе MLIR.
Проект Peano может дать толчок популярности написания приложений на базе AMD NPU, которые могут использовать эти новые процессоры для создания больших языковых моделей.
AMD активно демонстрирует возможности использования систем на базе Ryzen и Radeon с помощью таких инструментов, как LM Studio - простого приложения с интуитивно понятным графическим интерфейсом, которое в настоящее время может использовать только интегрированные и дискретные видеокарты, но не NPU.
AMD приводит несколько примеров использования NPU Ryzen AI для разработки ПО, хотя это не предназначено для конечных пользователей.
Intel, как отмечает Phoronix, быстрее выпустила свое ПО для NPU. Linux-ядро для Meteor Lake NPU было обновлено еще до выхода новой архитектуры, а Intel уже выложила в открытый доступ плагин NPU для своей платформы - OpenVINO.
Поскольку обе компании предлагают компиляторы и ПО с открытым исходным кодом для конечных пользователей, разработчики могут легко создавать кросс-вендорные решения, использующие преимущества каждой архитектуры. Однако ясно только одно: мы пока мало слышим о подобных разработках для серии Snapdragon X.