Китайская фирма Dongfang Suanxin (Shanghai Oriental Compute Core Technology) анонсировала создание ИИ-ускорителя DF1000. Это устройство целиком собрано из местных комплектующих, а вместо дорогой памяти HBM здесь применяется 3D DRAM.
Продукт базируется на принципе «вычислений вблизи памяти» (Near-In-Memory Computing). Микросхема 3D DRAM обладает многослойной архитектурой, полученной благодаря технологии гибридного соединения: заявлено, что такой метод позволяет сократить шаг интерконнекта с микрометрового до субмикрометрового диапазона. Как следствие, по сравнению с традиционными вариантами количество сквозных межсоединений возрастает в десять раз. Это, в свою очередь, позволяет увеличить пропускную способность памяти в пять раз при неизменной ёмкости. Таким образом, формируется аналог HBM.
Источник изображения: Dongfang Suanxin
Ускоритель DF1000 выпускается по 14-нм технологии. Пропускная способность при обращении к памяти достигает 6,4 Тбайт/с, а масштабируемая пропускная способность интерконнекта — 900 Гбайт/с. Производительность в задачах ИИ составляет 520 Тфлопс в режиме BF16. Новинка пригодна для обучения крупных языковых моделей (LLM) и выполнения других ресурсоёмких операций. Аппаратная часть допускает перенастройку под конкретные задачи, что улучшает эффективность использования ресурсов.
Устройство DF100, по доступным сведениям, обеспечивает вдвое большую пропускную способность по сравнению с NVIDIA H100 и на 33 % превосходит по этому параметру ускоритель H200. Китайское решение выдаёт до 500 токенов/с при работе с моделью Llama3 70B.
Также ведётся разработка решения DF2000, которое Dongfang Suanxin намерена представить ближе к 2027 году. Оно будет обладать производительностью до 1000 Тфлопс в режиме BF16, до 2000 Тфлопс в режиме FP8 и до 4000 Тфлопс в режиме FP4. Пропускная способность памяти достигнет 15 Тбайт/с благодаря улучшенной архитектуре 3D DRAM, а интерконнекта — до 1600 Гбайт/с. Предусмотрено использование 14-нм техпроцесса.
Запланированный на 2028 год выпуск ускорителей DF3000 позволит им вдвое превзойти вычислительную мощность своих предшественников, достигая 2000 Тфлопс при операциях BF16, 4000 Тфлопс в режиме FP8 и 8000 Тфлопс в режиме FP4. Пропускная способность памяти будет достигать 20 Тбайт/с, а скорость интерконнекта — до 3200 Гбайт/с.
Источник: