STRUCTUREцифровые системыОбсудить проект
НОВОСТЬ · Technology

Nvidia пересмотрела характеристики памяти HBM4 и соединений NVLink для Vera Rubin

В характеристиках вычислительных платформ Nvidia Vera Rubin появились изменения относительно первоначального анонса. Они касаются пропускной способности памяти HBM4 и NVLink, а в одной из конфигураций — ещё и объёма памяти. Новые показатели важны для расчёта крупных ИИ-систем.

Главное

В конфигурации Vera Rubin NVL72 ёмкость памяти HBM4, по данным опубликованного сравнения, остаётся равной 288 ГБ. Однако заявленная скорость передачи данных снижена с 22 до 19,2 ТБ/с. Это принципиально разные характеристики: сохранение объёма позволяет разместить тот же набор данных, но меньшая пропускная способность потенциально меняет темп их обработки при интенсивных обращениях к памяти.

Другой пересмотренный параметр относится к NVLink, обеспечивающему обмен информацией между ускорителями. Для рассматриваемой системы скорость соединения теперь обозначена как 3 ТБ/с вместо 3,6 ТБ/с. В крупных вычислительных задачах обмен данными между устройствами бывает столь же важен, как возможности каждого из них. При этом одна цифра из спецификации ещё не показывает, насколько изменится время обучения конкретной модели.

Подробности

Платформа HGX Rubin NVL8 получила свой список корректировок. Общий объём памяти указан как 2 ТБ вместо прежних 2,3 ТБ. Здесь изменения касаются не только скорости, но и размера рабочих наборов данных, которые система может удерживать в памяти. Параметры всей платформы необходимо отличать от характеристик отдельного ускорителя: прямое сопоставление без учёта конфигурации вводит в заблуждение.

Суммарная пропускная способность памяти для HGX Rubin NVL8 снизилась со 176 до 130 ТБ/с, а соединение NVLink — с 28,8 до 24 ТБ/с. Для системных интеграторов такие значения служат исходными данными при планировании вычислительных кластеров. Влияние изменений зависит от характера нагрузки: задачи с интенсивным обменом между ускорителями и задачи, ограниченные вычислениями, могут реагировать по-разному.

Что это меняет

В сравнении приведены и номинальные показатели обучения. Для формата NVFP4 оценка пересмотрена с 280 до 270 PFLOPS, а для FP8/FP6 — со 140 до 130 PFLOPS. Это заявленные характеристики платформы, а не результаты независимого теста каждой рабочей задачи. По ним нельзя автоматически заключить, что производительность любого приложения снизилась ровно на ту же величину.

Главный практический вывод касается актуальности технической документации. При оценке оборудования и экономике дата-центра важно использовать последнюю конфигурацию, а не ранний набор анонсированных параметров. Объём памяти, пропускная способность HBM4 и скорость межсоединений отвечают за разные ограничения. Окончательная оценка эффекта потребует тестов на тех моделях и сценариях, ради которых приобретается платформа.

Первоисточник

Материал подготовлен STRUCTURE по открытой публикации iXBT. Текст и иллюстрации первоисточника не воспроизводятся целиком.

Читать исходную новость целиком ↗