Компания Meta✴ представила ASIC Vistara, который даёт возможность через интерфейс CXL подключать устаревшие модули памяти, такие как DDR4, извлечённые из выведенных из эксплуатации серверов, к новым системам. Это позволит хотя бы отчасти компенсировать нехватку DRAM, из-за которой компания уже была вынуждена продлить срок службы своего оборудования. Среди плюсов такого подхода разработчики называют практически бесплатное наращивание объёма памяти за счёт вторичного использования, рост производительности благодаря увеличению доступного объёма памяти и сокращение углеродного следа.
В Meta✴ отметили, что технология CXL в целом не получила массового применения из-за «низкой пропускной способности, высокой задержки и значительных накладных расходов». «К примеру, расширенная память, используемая в нашем производстве, демонстрирует примерно в 10 раз меньшую пропускную способность и примерно на 60 % более высокую задержку по сравнению с локальной памятью», — сообщает компания.
В частности, дополнительные контроллеры и мосты между разными интерфейсами вносят задержку порядка 150 нс. Также отмечается, что «большинство решений CXL интегрируют DRAM с контроллером, что мешает повторно использовать DIMM, и зачастую не поддерживают DDR4, что необходимо для вторичного использования старых модулей памяти». При этом у компании в эксплуатации находилось и находится около десятка различных типов DDR4 DIMM. По словам Meta✴, эти трудности решаются в компании путём совместной разработки аппаратного и программного обеспечения.
Источник изображений: Meta✴
«На аппаратном уровне мы создаем собственную микросхему CXL ASIC под названием Vistara, которая оптимизирована для повторного использования DRAM, энергоэффективности и минимальных задержек. Что касается программного обеспечения, мы разрабатываем оптимизированное решение на базе TPP (Transparent Page Placement), подбираем оптимальное соотношение локальной и расширенной памяти для каждой задачи и автоматизируем настройку под каждую нагрузку, включая отключение расширенной памяти для приложений, чувствительных к росту задержек», — заявляет компания.
ASIC Vistara оснащен двумя 72-битными каналами DDR4-3200 (на практике частота снижена до 2400) с поддержкой ECC и 2DPC, что позволяет установить до 256 Гбайт памяти (на практике — 128 Гбайт в четырех DIMM). Для взаимодействия с хостом применяется интерфейс PCIe 5.0 x16 (на практике достаточно x8) с поддержкой CXL 1.1/2.0 Type 3. Микросхема потребляет около 9 Вт, а задержка доступа к памяти составляет примерно 50 нс. В состав контроллера входят три управляющих ядра RISC-V. Модули с Vistara, по два на каждый односокетный узел, размещаются в отдельных слотах в задней части шасси и охлаждаются отдельным потоком воздуха, чтобы избежать перегрева и обеспечить стабильную работу.
Как отмечается, данное решение значительно повышает производительность для различных рабочих нагрузок, например, сокращая количество используемых серверов до 25 % для дезагрегированного машинного обучения и уменьшая среднюю задержку на 29 % для распределенных кешей. Стоит упомянуть, что Microsoft также задумалась об использовании старых модулей DDR4 и устаревших SSD в новых серверах в рамках проекта GreenSKU.
Источник: