ROCm 10.2: vLLM 0.32, SGLang 0.5.21 и 18 новых Ryzen в списке поддержки
AMD выпустила ROCm 10.2: в стеке vLLM 0.32.0 и SGLang 0.5.21 на Python 3.14, PyTorch 2.15, поддержка LVM и mdraid в hipFile, официальные сборки под RHEL 10.3 и SLES 16.1. Список ноутбуков на Ryzen вырос на 18 моделей.
Что случилось
18 ноября 2026 года AMD выпустила ROCm 10.2 — очередной релиз открытого стека для вычислений на GPU, который выходит раз в шесть недель. Обновление не меняет архитектуру, а подтягивает версии фреймворков и закрывает разрывы, из-за которых на Instinct и Radeon приходилось собирать компоненты вручную.
Детали
Серверы инференса переезжают на vLLM 0.32.0 и SGLang 0.5.21; оба фреймворка теперь работают на Python 3.14 и поставляются в готовых Docker-образах. В образы vLLM встроен AITER — набор ядер для тензорных операций: на Instinct MI300X, MI325X, MI350X и MI355X он идёт собранным заранее, на Radeon и Ryzen AI компилируется при первом обращении, без отдельной установки.
Остальные версии в стеке:
- PyTorch 2.15, JAX 0.11.2, MIGraphX 2.19, ONNX Runtime 1.29;
- PyTorch от TheRock ставит ROCm отдельной зависимостью, а не встраивает внутрь пакета;
- hipFile и AMD Infinity Storage научились работать с логическими томами LVM и программным RAID mdraid;
- официальная поддержка RHEL 10.3, RHEL 9.9 и SLES 16.1.
В MLPerf 6.1 AMD отчиталась о пяти рецептах обучения, включая новую задачу GPTOSS-20B. На DLRM v4 система на MI355X обучилась на 38,5% быстрее, чем на NVIDIA B300, и показала сравнимый результат с GB300 при масштабе в восемь узлов. В Primus для смеси экспертов на DeepSeek-V3 заявлено сверхлинейное масштабирование с 256 до 1024 ускорителей MI355X.
Отдельная строка релиза — инструменты эксплуатации. Systems Profiler собрал несколько прежних бинарников в одну команду, ROCm CLI 0.3.0 ставит SDK целиком с подбором версии под конкретную карту, а в RCCL доработали обмен между GPU, подключёнными по PCIe: там, где нет NVLink-аналога, именно шина чаще всего и оказывается узким местом.
Что это значит
Для тех, кто держит инференс на своих мощностях, важнее две утилиты. InferaSim по нескольким коротким замерам на GPU оценивает, поместится ли конфигурация в видеопамять, сколько реплик нужно под целевые задержки и как разделить prefill и decode. Hyperloom — агент подбора параметров — получил лимиты энергопотребления, то есть оптимизацию под ватт, а не под пиковую пропускную способность, и ранний доступ на одном узле с Radeon AI Pro R9700.
Список поддерживаемых ноутбуков вырос на 18 процессоров Ryzen на архитектуре gfx1103 и включает Radeon PRO W7900D — это модели, на которых ROCm раньше отказывался работать без ручных патчей. Совместимость конкретной машины стоит проверить до обновления: для серверных карт ничего не изменилось, а клиентские сборки PyTorch придётся переставить.
Комментарии 0
Комментариев пока нет — будьте первым.
Оставить комментарий
Имя и текст — этого достаточно. Комментарий появится сразу; подозрительные сообщения уходят на проверку.