Компания Axelera AI из Нидерландов представила архитектуру Titania — ускорителей искусственного интеллекта третьего поколения, построенных по чиплетному принципу. По заявлению разработчиков, архитектура сочетает высокую программируемость и энергоэффективность с внушительной производительностью. Решение учитывает актуальные ограничения по энергопотреблению и охлаждению в современных дата-центрах и предназначено для замены серверов на базе NVIDIA RTX 6000.
Как утверждает производитель, Titania обеспечит семикратное увеличение производительности на ватт по сравнению с имеющимися решениями для ЦОД, а совокупная стоимость владения (TCO) снизится вплоть до 20 раз. Каждый SiP-модуль включает два чиплета. Модули могут выпускаться в разных формфакторах — от стандартных карт PCIe 6.0 x16 до плат OCP UBB, объединяющих восемь модулей Titania OAM. Клиенты подтвердили заказы на сумму свыше $300 млн — решения будут поставляться через OEM-партнёров в составе серверов для инференса с поддержкой как воздушного, так и жидкостного охлаждения.
Архитектура Titania продолжает развитие подхода к вычислениям в оперативной памяти (Digital In-Memory Computing — D-IMC), который впервые был реализован в платформе Metis и затем расширен в архитектуре Europa. Если раньше решения Axelera AI применялись во встраиваемых системах и на периферии, то теперь они охватывают и крупномасштабный инференс в дата-центрах. В состав модуля входят средства межсоединений между ускорителями, а также программируемые вычислительные ядра на базе архитектуры RISC-V.
Источник изображения: Axelera AI
В Titania сделан ставка на применение доступной и недорогой памяти LPDDR вместо дефицитной HBM. Каждый модуль оснащён 128 Гбайт LPDDR6 (пропускная способность достигает 2456 Гбайт/с на модуль) — это особенно важно для разреженных MoE-моделей, где общее число параметров велико, а активных относительно немного, поэтому приоритет отдаётся ёмкости и эффективности памяти, а не высокой пропускной способности, которая зачастую остаётся неиспользованной.
Чиплет включает 32 программируемых ИИ-ядра, каждое из которых обеспечивает до 39,3 Тфлопс (FP8), а также 16 вспомогательных вычислительных ядер на архитектуре RISC-V с векторными расширениями. Предусмотрено 128 Мбайт общей SRAM и 2 Мбайт кеша первого уровня для программируемых ИИ-ядер. За межчиплетное взаимодействие отвечает отдельный блок RISC-V APU.
Референсный сервер Titania под кодовым обозначением AX8 оснащается восемью SiP-модулями, демонстрирует производительность 20 Пфлопс (FP8) и обладает 1 Тбайт памяти с совокупной пропускной способностью 19,6 Тбайт/с. Всё это компонуется в стандартном 4U-корпусе с воздушным охлаждением при типовом энергопотреблении 5–6 кВт, что даёт возможность развернуть систему в обычном ЦОД. Один сервер Axelera способен обслуживать модель с 1,6 трлн параметров (в формате FP4) с запасом памяти под KV-кеш. В качестве программной основы применяются ранее анонсированные Voyager SDK и язык AxeleraScript (AxScript).
Плата Titania в формате PCIe создана в качестве полноценной замены серверной модели Axelera 250p на архитектуре Europa — решения, развёрнутые на платформе прошлого поколения в 2028 году, можно будет перенести на Titania без доработки программного кода. Один ускоритель способен обслуживать крупные языковые и мультимодальные модели, а также работать с видеопотоками — встроенные аппаратные модули декодирования (8K) и кодирования (4K) с поддержкой кодеков H.264, H.265, VP9 и AV1 снижают нагрузку на хост-систему. Массовое производство ускорителей на архитектуре Titania начнётся в третьем квартале 2027 года.
Заметили неточность — выделите её курсором и нажмите CTRL+ENTER. | Есть что добавить? Мы всегда открыты для новых авторов.
Похожие материалы:
- Европейские ИИ-гигафабрики ÆTHER оснастят суверенными чипами Axelera и SiPearl
- Axelera AI привлекла $250 млн на создание европейских ИИ-чипов
- ИИ-ускорители Axelera появятся в платформах Arduino для граничных вычислений
- Обойтись без CUDA? Конкурентное преимущество NVIDIA в программном обеспечении для ИИ утрачивается
- Авиаперевозки в США наконец перестанут зависеть от дискет
Понравилось? Сообщите об этом Google, чтобы чаще видеть ссылки на наши новости и обзоры
Источник: