Компания Penguin Solutions представила сервер MemoryAI KV Cache Server, созданный для преодоления «стены памяти» в современных вычислительных средах, задействованных в требовательных задачах ИИ-инференса. Устройство предлагает до 11 ТБ памяти по интерфейсу CXL, что способствует полному раскрытию потенциала имеющихся вычислительных ресурсов.
Сервер (модель Altus XE4318GT-KVC) выполнен в корпусе формата 4U. В его основе лежат два процессора AMD EPYC 9005 Turin в разъёме Socket SP5 (LGA 6096) с теплопакетом до 500 Вт. Конфигурация включает контроллер ASpeed AST2600 и сетевой адаптер Intel I350-AM2. Предусмотрены два разъёма для накопителей SSD формата M.2 2280/22110 с шиной PCIe 3.0, восемь слотов для карт PCIe 5.0 x16 FHFL и два слота для карт PCIe 5.0 x16 LP, два сетевых порта 400GbE (RJ45), два порта USB 3.0 (5 Гбит/с), а также аналоговый интерфейс D-Sub.
Система поддерживает до 3 ТБ оперативной памяти DDR5-6400. Дополнительно в неё установлены восемь карт CXL, каждая ёмкостью 1 ТБ. Это расширяет возможности ИИ-ускорителей с ограниченным объёмом встроенной памяти HBM, используемых в инфраструктуре. Заявлена совместимость с программной платформой NVIDIA Dynamo, которая, среди прочего, ускоряет процесс инференса. По словам Penguin Solutions, данный сервер даёт организациям возможность более эффективно задействовать GPU-ускорители благодаря подключению значительных объёмов дополнительной памяти.
Источник изображения: Penguin Solutions
Аппарат оснащён четырьмя блоками питания мощностью 3000 Вт с сертификатом 80 Plus Titanium. Допустимый температурный диапазон работы — от +10 до +35 °C. Поддерживаются операционные системы Red Hat Enterprise Linux (RHEL) и Rocky Linux. На продукт предоставляется трёхлетняя гарантия.
Источник: