Компания Selectel, выступающая в роли профильного провайдера IT-решений на основе собственной сети центров обработки данных, объявила о модернизации своей платформы для работы с искусственным интеллектом, которая облегчает интеграцию ИИ в бизнес-процессы и предоставляет компаниям возможность оперативно развертывать и масштабировать ИИ-модели в облаке без необходимости вручную настраивать IT-инфраструктуру для их функционирования.
Главным нововведением ИИ-платформы Selectel стала обновленная версия Foundation Models Catalog — сервиса для проверки, развертывания и подключения больших языковых моделей (LLM) к приложениям и бизнес-процессам, который теперь дополнен инструментами управления ИИ-моделями через REST API и пользовательский интерфейс, а также средствами мониторинга и автоматизации, позволяющими контролировать работу моделей и повышать их эффективность.
Как устроена ИИ-инфраструктура Selectel (источник изображения: selectel.ru/solutions/ai-infrastructure)
Среди других обновлений продукта разработчик выделяет следующие:
- встроенные возможности развертывания ИИ-моделей на выделенной инфраструктуре с функцией быстрого автоматического масштабирования;
- усовершенствованная архитектура платформы: в качестве ключевого компонента для инференса используется vLLM — производительный open source-фреймворк для работы с LLM;
- в каталог добавлены новые open source-модели: решения от IBM (Granite), Alibaba (Qwen), DeepSeek, Microsoft (Phi), Mistral AI и OpenAI;
- обновленный пользовательский интерфейс: в каталоге появилась фильтрация по характеристикам, что упрощает поиск и выбор подходящих моделей.
Оплата за использование ИИ-платформы Selectel взимается за фактически потребленные вычислительные ресурсы. В скором времени клиентам станет доступна новая модель тарификации на основе количества токенов.
Источник: