Компании Intel и AMD договорились о совместной унификации программного стека для запуска моделей искусственного интеллекта на центральных процессорах. Фирменные наработки AMD, ранее развивавшиеся в отдельном проекте ZenDNN, перейдут в открытую библиотеку oneDNN под управлением UXL Foundation. Такое решение избавит индустрию от необходимости поддерживать раздельные программные пути для чипов двух конкурирующих брендов.
Слияние ZenDNN и oneDNN под эгидой UXL
Изначально проект oneDNN разработала Intel, после чего библиотека была передана консорциуму UXL Foundation, в учреждении которого также участвовали Arm, Qualcomm и Google Cloud. До последнего времени AMD вела независимый форк ZenDNN, адаптируя код под микроархитектуру своих кристаллов.
Теперь эти доработки интегрируются в единый репозиторий. Одновременно AMD вошла в управляющий комитет UXL Foundation в статусе Steering Member. Ежегодный взнос в 20 000 долларов даёт чипмейкеру возможность напрямую влиять на архитектурную эволюцию библиотек наравне с остальными лидерами объединения.
Как устроена оптимизация инференса
Инструментарий oneDNN отвечает за инференс моделей машинного обучения на CPU. Во время выполнения задачи библиотека автоматически определяет инструкции конкретного процессора и формирует оптимизированные вычислительные ядра. В библиотеку заложены алгоритмы ускорения базовых операций глубокого обучения — таких как перемножение матриц и свертка, а также поддержка вычислений с пониженной точностью.
Когда oneDNN добавили в качестве бэкенда в PyTorch в конце 2023 года, прирост производительности составил 1,24 раза для формата данных Float32 и 2,21 раза для BFloat16. Объединение усилий позволит применять данные оптимизации на чипах обоих производителей без установки сторонних надстроек. При этом архитектура oneDNN остаётся универсальной: она поддерживает не только платформу x86, но также Arm и RISC-V.
Координация через группу x86 EAG
Интеграция библиотек выполнена по рекомендации консультативной группы x86 Ecosystem Advisory Group (EAG). Эту структуру чипмейкеры основали в 2024 году ради преодоления фрагментации архитектуры x86 и выработки единых спецификаций. Ранее компании уже согласовали в объединении расширения инструкций ACE (AI Compute Extensions) для нейросетевых задач.
Представители Intel и AMD отметили, что единый программный путь экономит время разработчиков и гарантирует масштабируемость систем. Инициативу также поддержали в сообществе PyTorch и компании Red Hat, указав на устранение давних барьеров при развёртывании рабочих нагрузок на разнородных серверах.
Что это значит для вас
Разработчикам софта и исследователям искусственного интеллекта в России больше не придётся собирать PyTorch из исходных кодов или искать специальные сборки ради полной утилизации инструкций процессоров Ryzen или EPYC. Необходимые оптимизации станут доступны в базовой версии фреймворка.
Обычным пользователям и владельцам ПК никаких действий предпринимать не потребуется. Достаточно вовремя обновлять среду Python и пакеты машинного обучения: ускорение инференса локальных моделей на центральном процессоре будет активироваться автоматически независимо от того, процессор какого бренда установлен в вашей системе.
