ADATA решает проблему нехватки VRAM: представлена технология расширения памяти для GPU
Компания ADATA Technology через свой бренд TRUSTA представила гибридную программно-аппаратную систему AI Scaler Extended Memory Solution. Решение разработано для устранения дефицита памяти в GPU-ускорителях при выполнении таких задач, как инференс ИИ и тонкая настройка крупных языковых моделей (LLM).
Согласно прогнозам аналитиков, глобальный рынок ИИ-инфраструктур будет ежегодно расти в среднем на 26% вплоть до 2034 года. При этом ИИ-нагрузки всё активнее перемещаются из традиционных облачных сред в локальные вычислительные контуры и на периферийные устройства. В таких сценариях компании сталкиваются с необходимостью решать вопросы защиты данных, соблюдения нормативных требований и контроля затрат. Новая архитектура TRUSTA призвана помочь организациям сократить расходы при развёртывании ИИ в собственной среде.
В отличие от классических ИИ-систем, которые целиком опираются на память GPU-ускорителей, платформа TRUSTA AI Scaler Extended Memory Solution, подобно Phison aiDAPTIV+, перераспределяет нагрузку между памятью GPU, DRAM и SSD-накопителями, обеспечивая более рациональное использование доступных ресурсов. Утверждается, что задачи инференса, обычно требующие нескольких GPU-карт, можно оптимизировать для работы на одном ускорителе в сочетании с другими типами памяти. При этом вычислительные нагрузки динамически переключаются между быстрой памятью GPU, оперативной памятью и твердотельными накопителями. В итоге, по заявлениям разработчиков, затраты на внедрение ИИ можно сократить более чем на 50% по сравнению с традиционными инфраструктурами.
Источник изображения: ADATA
Для новой программно-аппаратной платформы разработан инструментарий TRUSTA AI Scaler Toolkit. Это бесплатный продукт с открытым исходным кодом, не привязанный к конкретному оборудованию. С его помощью компании, научные организации и независимые разработчики смогут настраивать ресурсы в соответствии с собственными потребностями и текущими задачами. Заявлена совместимость с такими LLM, как Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi и Gemma, а в будущем перечень будет расширяться. Кроме того, поддерживаются различные приложения для ИИ-агентов, включая OpenClaw, NemoClaw и Hermes Agentic. Инструментарий TRUSTA AI Scaler Toolkit уже доступен для загрузки.
Помимо этого, компания TRUSTA анонсировала корпоративный SSD TD7P51 ECO, оснащённый интерфейсом PCIe 5.0. Его ёмкость достигает 15,36 Тбайт. Для клиентов будут доступны модели в трёх типоразмерах — U.2, E1.S и E3.S.
Источник: