Компания d-Matrix проинформировала о завершении инвестиционного раунда серии C, в рамках которого удалось собрать $275 млн, что оценило бизнес в $2 млрд. Суммарный капитал, привлечённый фирмой, теперь составляет $450 млн. Эти ресурсы будут использованы для укрепления глобальных позиций организации и содействия заказчикам во внедрении ИИ-систем, построенных на её технологических разработках.
Финансирование серии C координировалось международным консорциумом, куда вошли BullhoundCapital, Triatomic Capital и сингапурский государственный фонд Temasek. Среди участников раунда также значатся Qatar Investment Authority (QIA), EDBI, корпоративный венчурный фонд Microsoft M12, а также Nautilus Venture Partners, Industry Ventures и Mirae Asset.
Сид Шет (Sid Sheth), генеральный директор и один из основателей d-Matrix, подчеркнул, что компания изначально концентрировала усилия именно на инференсе. «Мы предполагали, что когда обученным моделям понадобится постоянная работа в больших масштабах, инфраструктура окажется неподготовленной. Последние шесть лет мы посвятили созданию инновационного подхода: совершенно новой архитектуры, обеспечивающей повсеместное и бесперебойное функционирование ИИ. Данное финансирование служит доказательством нашей идеи в момент, когда отрасль переходит к эре ИИ-инференса», — пояснил он.
d-Matrix создала ускоритель инференса Corsair, основанный на архитектуре DIMC (digital in-memory computing) с вычислениями непосредственно в памяти — процессорные элементы интегрированы в запоминающие устройства. Ускоритель поставляется вместе с сетевой платой JetStream. Также представлена референсная архитектура SquadRack, облегчающая построение ИИ-кластеров на Corsair. Она позволяет размещать до восьми серверов в стойке, каждый из которых оснащён восемью ускорителями Corsair. Конструкция SquadRack даёт возможность использовать ИИ-модели объёмом до 100 млрд параметров, полностью размещаемые в статической оперативной памяти (SRAM).
Согласно данным d-Matrix, подобная компоновка демонстрирует десятикратное превосходство в производительности над чипами, применяющими HBM. Наряду с аппаратными средствами, фирма предоставляет программный стек Aviator, автоматизирующий определённые задачи по развёртыванию ИИ-моделей на ускорителе. Aviator также содержит инструментарий для отладки моделей и контроля эффективности.
Источник изображения: d-Matrix
В предстоящем году компания d-Matrix намерена представить усовершенствованный ускоритель для вывода Raptor. Это пионерское устройство, основанное на технологии 3D DRAM. Проект создаётся совместно с Alchip, признанным экспертом в разработке специализированных интегральных схем. Партнёрство уже позволило воплотить ключевую технологию d-Matrix 3DIMC, продемонстрированную в тестовом чипе d-Matrix Pavehawk. Как заявляют разработчики, новинка ускорит процесс вывода до 10 раз в сравнении с системами на HBM4, что улучшит результативность генеративных и агентных рабочих задач искусственного интеллекта.
Кроме того, в Raptor будет интегрирован процессор AndesCore AX46MPV от Andes Technology. Фирмы отметили, что их альянс объединяет память-ориентированные вычисления и передовые процессорные решения на открытых стандартах для масштабных ИИ-задач в дата-центрах. Чип Andes AX46MPV возьмёт на себя координацию рабочих процессов, управление памятью, векторные операции и функции активации.
AX46MPV представляет собой 64-разрядный многопроцессорный RISC-V-процессор с поддержкой Linux. Он оснащён 2048-битным модулем векторной обработки (RVV 1.0), высокоскоростной векторной памятью (HVM) и другими аппаратными компонентами для выполнения ресурсоёмких вычислений. Вместе эти возможности дают производительный резерв и программную адаптивность, требуемые для систем вывода дата-центрового уровня. Базовые ядра, критически важные для трансформерных и LLM-нагрузок ИИ, показывают увеличение скорости до 2,3 раза относительно предыдущей модели AX45MPV.
Источник:
