Приватный ИИ-ассистент для конфиденциальных данных: новая услуга на российском рынке
Компания «Рег.ру», предоставляющая услуги хостинга, регистрации доменов и облачных технологий, объявила о запуске для своих клиентов персонального ИИ-помощника, созданного по принципу HaaS (Hardware as a Service).
Этот продукт разработан для удовлетворения потребностей бизнеса в применении генеративного искусственного интеллекта в ситуациях, когда использование публичного облака ограничено нормативными актами или внутренними правилами безопасности. В отличие от облачных сервисов с общими ресурсами, приватный ИИ-ассистент работает в полностью автономной среде. «Рег.ру» обеспечивает техническое сопровождение инфраструктуры, предлагая широкий выбор предустановленных open-source ИИ-моделей. Доработку и внедрение решения под специфические задачи компании могут осуществлять своими силами или с помощью партнёров-интеграторов.
Источник изображения: Steve Johnson / unsplash.com
Решение поставляется в виде серверного оборудования с графическими ускорителями Nvidia (включая флагманские модели H100 и H200 с памятью 80 и 141 ГБ соответственно, а также карты серий A100, L40S и A6000), на котором развёрнут образ на платформе Ollama с готовыми ИИ-моделями и веб-интерфейсом. Серверы поддерживают установку до восьми видеокарт, оснащаются мощными процессорами, оперативной памятью до 4 ТБ и высокоскоростными NVMe-накопителями.
Архитектура сервиса позволяет проводить сертификацию для соответствия жёстким стандартам, таким как Федеральный закон №152 «О персональных данных» и требованиям ФСТЭК России.
Источник: