96 NVMe-накопителей с жидкостным охлаждением и четыре RTX Pro 6000: Wiwynn представила хранилище на базе NVIDIA SCADA для ИИ-нагрузок
Дочернее предприятие Wistron, компания Wiwynn, как отмечает Tom's Hardware, представила один из первых в своей сфере серверов хранения данных NVIDIA SCADA (SCaled Accelerated Data Access). Это устройство предназначено для высокопроизводительной обработки крупных массивов информации при обучении и инференсе ИИ-моделей.
Источник изображений: Wiwynn
Новое устройство выполнено в шасси MGX высотой 6U и предназначено для установки в стандартную 19-дюймовую серверную стойку. В его основе лежит процессор NVIDIA Vera с 88 ядрами Olympus либо Intel Xeon (в конфигурации HPM-). Предусмотрено восемь разъёмов под модули DDR5. Система включает четыре ускорителя NVIDIA RTX Pro 6000 Blackwell Server Edition, четыре коммутатора PCIe 6.x и четыре карты ConnectX-9 SuperNIC/DPU BlueField-4 на 800 Гбит/с (при необходимости GPU можно заменить на DPU). Охлаждение реализовано полностью жидкостное.
Сервер поддерживает 96 накопителей EDSFF E3.S SSD с вертикальной загрузкой. Если использовать изделия Micron 9650 Pro объёмом 30,72 Тбайт с интерфейсом PCIe 6.0, общая ёмкость достигает 2,949 Пбайт. При этом показатель IOPS при операциях случайного чтения может достигать 528 миллионов. Максимальное энергопотребление новинки составляет 9 кВт (питание DC 50 В). Кабели питания и гибкие шланги системы жидкостного охлаждения размещены в боковых нишах, что позволяет выдвигать лоток с накопителями и выполнять «горячую» замену SSD.
Как отмечается, обычные серверы на базе CPU неэффективно работают с такими операциями, как векторный поиск, генерация с расширенной выборкой (RAG), анализ графов и извлечение информации из KV-кеша. При подобных нагрузках процессор вынужден подавать команды, обрабатывать запросы и управлять передачей информации, что приводит к возникновению узких мест.
Платформа SCADA помогает преодолеть эту трудность, перекладывая операции ввода-вывода и обработку данных на GPU — без привлечения CPU. Фактически, ускорители RTX Pro 6000 Blackwell Server Edition в составе системы выступают в роли процессоров хранения, которые инициируют и обрабатывают транзакции и миллионы запросов от ИИ-приложений, а также передают информацию на вычислительные узлы через карты ConnectX-9.
Источник: