Компания Crusoe представила новые периферийные зоны доступности Crusoe Edge Zones, созданные на основе модульных центров обработки данных Crusoe Spark. Эти решения позволяют организовать вычисления для искусственного интеллекта практически в любой точке мира. Edge Zones обеспечат клиентам по всему миру ИИ-инфраструктуру с минимальной задержкой и возможностью развёртывания суверенных ИИ-систем.
Используя Crusoe Edge Zones, заказчики могут размещать модули Crusoe Spark в локациях, которые обычно недоступны для крупных гиперскейлеров и традиционных облачных провайдеров.
Модули ЦОД Crusoe Spark для этих зон производятся на недавно запущенном предприятии Spark Factory. Полный контроль над всем стеком создания ИИ-инфраструктуры — от производства до облачной оркестрации — позволяет Crusoe разворачивать новые периферийные облачные платформы всего за три месяца. Стоимость такого развёртывания существенно ниже, чем у классических ЦОД. Это открывает возможность предоставления ИИ-мощностей в регионах с ограниченными или устаревшими инфраструктурными ресурсами.
Источник изображения: Crusoe
Crusoe Edge Zones на платформе Crusoe Spark представляют собой следующий этап масштабирования вертикально интегрированной модели «ИИ-фабрик». Эти зоны оптимизированы для совместной работы с облачной платформой Crusoe Cloud и сервисом Managed Inference для вывода моделей. Применение запатентованной технологии Crusoe MemoryAlloy позволяет сократить «время до первого токена» в 9,9 раз. Кроме того, система обеспечивает пятикратное увеличение пропускной способности по сравнению со стандартными конфигурациями для инференса. В итоге пользователи на периферии сети получают доступ к высокопроизводительной и крайне эффективной инфраструктуре.
Основные области применения:
- размещение Crusoe Edge Zones вблизи от конечных пользователей для достижения минимально возможной задержки — это критически важно для приложений, требующих работы ИИ в реальном времени;
- создание для клиентов выделенных корпоративных кластеров, предназначенных для обучения моделей ИИ и их вывода, которые сочетают преимущества собственной инфраструктуры с удобством управляемого облака;
- внедрение суверенного ИИ на основе передовой инфраструктуры Crusoe государственными структурами и отраслями с особыми требованиями к защите данных — зоны Crusoe можно развернуть без передачи информации за пределы требуемой юрисдикции.
По мнению компании, будущая инфраструктура искусственного интеллекта будет сочетать в себе масштабные гигаваттные кампусы для обучения ИИ и децентрализованные модули для периферийных вычислений. В настоящее время Crusoe вкладывает средства в развитие обоих этих направлений.
Идея сетей модульных дата-центров, обладающих высокой степенью автономии от крупных объектов, в свете ближневосточных событий набирает всё большую актуальность. Параллельно с этим, Akamai анонсировала планы по развёртыванию тысяч ускорителей NVIDIA RTX Blackwell для распределённого инференса, а LG представила модульные ИИ-блоки AI Box, из которых будет собран 60-мегаваттный дата-центр в южнокорейском Пусане.
Источник: