NVIDIA пересмотрела параметры GPU Rubin: уменьшены пропускная способность HBM4 и NVLink

Как сообщает ресурс ServeTheHome, компания NVIDIA окончательно определила технические параметры графических ускорителей линейки Rubin и построенных на них систем, в том числе Vera Rubin NVL72 и HGX Rubin NVL8. Основные отличия от ранее опубликованных предварительных данных касаются производительности подсистем.

Изначально NVIDIA рассчитывала обеспечить пропускную способность памяти HBM4 на уровне 22 Тбайт/с для одного чипа Rubin. При конфигурации из восьми стеков HBM4 (по 36 Гбайт, что в сумме даёт 288 Гбайт) это подразумевало работу каждого стека на скорости порядка 10,75 Гбит/с на контакт. В финальной версии показатели уменьшены до 19,2 Тбайт/с и 9,375 Гбит/с соответственно, то есть приблизительно на 13 %. Кроме того, пропускная способность интерконнекта NVLink снижена с 3,6 до 3 Тбайт/с — на 17 %. В то же время пропускная способность интерконнекта для горизонтального масштабирования (Scale Out), наоборот, повышена с 0,4 до 0,45 Тбайт/с.

Источник изображения: NVIDIA

Даже после внесённых правок производительность в задачах ИИ осталась на том же уровне. При инференсе и обучении моделей в режиме NVFP4 быстродействие составляет 50 и 35 Пфлопс соответственно. На операциях INT8 показатель доходит до 250 TOPS, а на TF32 — до 2 Пфлопс. Следовательно, кроме перечисленных изменений, NVIDIA не вносила иных корректировок в характеристики Rubin.

Что касается флагманской системы Vera Rubin NVL72, суммарная пропускная способность подсистемы памяти HBM4 снизилась с 1580 до 1400 Тбайт/с, а интерконнекта NVLink — с 260 до 216 Тбайт/с. При этом пропускная способность интерконнекта (Scale Out) выросла с 28,8 до 32,4 Тбайт/с.

Наконец, у HGX Rubin NVL8 показатель ПСП HBM4 уменьшился со 176 до 130 Тбайт/с, NVLink — с 28,8 до 24 Тбайт/с, тогда как для сети значение увеличилось с 1,6 до 1,8 Тбайт/с. Более того, для этих систем NVIDIA также сократила объём памяти HBM4. Если изначально HGX Rubin NVL8 планировалось оснастить 2,3 Тбайт HBM4, то согласно финальным спецификациям объём памяти составит 2 Тбайт.

Материалы по теме:

• NVIDIA и Oracle масштабируют инфраструктуру OCI на базе Vera Rubin NVL72 до уровня нескольких гигаватт
• MGX 1.2: NVIDIA опубликовала открытые спецификации стоек Vera Rubin
• Supermicro приступила к отгрузке NVIDIA Vera Rubin NVL72 с CDU мощностью 1,8 МВт
• Плата Banana Pi BPI-RT2 предназначена для маршрутизаторов с Wi-Fi 6
• На eBay выставили подержанный суперкомпьютер за $60 миллионов

Источник:

• ServeTheHome