Корпорация Uber анонсировала увеличение объёмов работы с облачной инфраструктурой Amazon Web Services (AWS). Сервис, предоставляющий услуги такси, каршеринга, доставки еды и грузов, планирует перевести часть вычислительных задач на новейшие чипы AWS Graviton и Trainium. Ранее компания уже задействовала Arm-процессоры Ampere в облаке Oracle.
В частности, для поддержки работы зон обслуживания поездок (Trip Serving Zones) Uber будет использовать процессоры Graviton4, которые содержат до 96 вычислительных ядер. Эта инфраструктура работает в реальном времени: при каждом запросе на поездку или доставку система мгновенно подбирает оптимальный маршрут, назначает подходящего исполнителя и рассчитывает сроки. В периоды пиковой нагрузки, например, во время масштабных событий, возникает необходимость в анализе миллионов вариантов маршрутов и обработке данных о местоположении клиентов и водителей. Ожидается, что Graviton4 позволит снизить задержки и расходы, а также обеспечит гибкое масштабирование в моменты резкого роста спроса без компромиссов в надёжности, доступности и безопасности.
Источник изображения: AWS
Помимо этого, Uber намерен применять ускорители Trainium3 для обучения части своих ИИ-моделей, которые являются основой приложений для заказа такси и доставки. Эти решения оснащены памятью HBM3E объёмом 144 ГБ, а их производительность на операциях с точностью FP8 достигает 2,52 петафлопс. Как отмечается, ИИ-модели Uber обрабатывают информацию о миллиардах совершенных поездок, чтобы выбрать водителя или курьера, спрогнозировать время прибытия и сформировать персональные рекомендации. Обучение искусственного интеллекта в подобных масштабах требует огромных вычислительных мощностей, и, по заявлению компании, платформа Trainium3 способна их предоставить.
«Uber — одно из самых сложных в мире приложений, функционирующих в реальном времени. Мы помогаем Uber поддерживать тот уровень надёжности, на который полагаются сотни миллионов людей, а также внедрять ИИ-функции, задающие вектор развития сервисов совместных поездок и доставки по требованию», — заявил Рич Гераффо (Rich Geraffo), вице-президент и управляющий директор AWS в Северной Америке.
Оригинал взят с: