Новый ИИ-сервер с ускорителями AMD Instinct MI355X: производительность и жидкостное охлаждение
Компания MiTAC представила новый мощный сервер с графическими ускорителями G4826Z5, построенный на платформе AMD и ориентированный на выполнение сложных задач искусственного интеллекта и высокопроизводительных вычислений. Также были показаны готовые стойки и кластерные решения на его базе.
Модель G4826Z5U2BC-355X-755 выполнена в корпусе формата 4U. В её нижней части, занимающей 2U, размещены два процессора AMD EPYC 9005 Turin и 24 слота для модулей памяти DDR5-6400. На передней панели находятся восемь отсеков для накопителей формата SFF, а также два внутренних разъёма M.2 для SSD с интерфейсом NVMe. Верхний 2U-модуль вмещает восемь ускорителей AMD Instinct MI355X, оснащённых 288 ГБ памяти HBM3E с пропускной способностью до 8 ТБ/с.
Сервер G4826Z5 оснащён системой жидкостного охлаждения, обслуживающей как процессорный, так и графический модули. В системе реализована функция обнаружения протечек. Резервированная система питания включает блоки по схеме 1+1 мощностью 3200 Вт и 3+3 мощностью 15 600 Вт. Все блоки питания соответствуют стандарту 80 Plus Titanium и поддерживают горячую замену.
Источник изображений: MiTAC
На базе сервера G4826Z5 создана стоечная система (MR1100L-64355X-01), которая объединяет восемь таких устройств, что в сумме даёт 64 графических ускорителя и 18,4 ТБ памяти HBM3E. Стойка также включает коммутаторы 400GbE на 64 и 32 порта, два коммутатора 1GbE на 48 портов, сервер управления B8056G68CE12HR-2T-TU, сервер хранения B8056T70AE26HR-2T-HE-TU и блок распределения хладагента (CDU) в форм-факторе 4U.
В свою очередь, стойки могут объединяться в кластеры из четырёх или восьми единиц. Это позволяет получить конфигурации с 32 и 64 GPU-серверами, а также с 256 и 512 ускорителями Instinct MI355X соответственно. Таким образом, в максимальной конфигурации совокупный объём памяти HBM3E достигает примерно 147 ТБ.
Оригинальная публикация: