128 Тбайт в одном сервере: Majestic Labs представила Prometheus, ломающий «стену памяти» для ИИ

128 Тбайт в одном сервере: Majestic Labs представила Prometheus, ломающий «стену памяти» для ИИ

Проблема «стены памяти» в ИИ-инфраструктуре решается не наращиванием количества стоек, а принципиально новой архитектурой. Majestic Labs анонсировала сервер Prometheus, способный вместить до 128...

11 ТБ памяти для ИИ: новый сервер ускоряет инференс, ломая «стену памяти»

11 ТБ памяти для ИИ: новый сервер ускоряет инференс, ломая «стену памяти»

Представлено специализированное решение для кеширования данных в задачах инференса ИИ, призванное преодолеть ограничения пропускной способности и объема оперативной памяти в серверных CPU. Устройство...