Компания Penguin Solutions анонсировала MemoryAI Photonic Appliance — систему на базе технологии Marvell Photonic Fabric. Решение объединяет до 16 Тбайт памяти DDR5 и 576 Гбайт HBM3E в единый пул, к которому могут обращаться CPU и GPU, расположенные в разных серверных стойках. Заявленная совокупная пропускная способность системы составляет 57,6 Тбит/с. Часть заказчиков получит образцы во второй половине 2027 года.
Архитектура допускает размещение до 16 Тбайт DDR5 и 576 Гбайт HBM3E на удалении в несколько метров от GPU, расширяя память, которая уже установлена непосредственно на ускорителях. Предусмотрен прямой доступ к HBM или DDR5, а также режим использования HBM в качестве кеша для DDR5. Приложения могут работать с общим пулом памяти без явного копирования данных и без применения специализированных процедур доступа. CPU получают доступ к тому же пулу через интерфейс CXL 3.0 и сетевые адаптеры Marvell.
Ресурсы памяти в пуле распределяются статически либо динамически в зависимости от профиля нагрузок. Разработчик пока не раскрыл данные об устойчивой пропускной способности в расчёте на один ускоритель, о задержках при одновременном обращении, а также о том, какие именно платформы ускорителей будут поддерживаться.
Источник изображения: Penguin Solutions
Данное устройство дополняет серию продуктов Penguin MemoryAI, предоставляя память с оптическим интерфейсом. В каталоге компании присутствует MemoryAI KV Cache Server. Платы расширения SMART CXL наращивают объём памяти на серверах с CPU и даже дают возможность использовать DDR4 из устаревших систем.
Если вы обнаружили ошибку — выделите её мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.
Материалы по теме:
Источник: