Корпорация Meta✴, как пишет The Register, заявила об углублении партнёрства с облачной платформой AWS. Речь идёт о задействовании Arm-процессоров Graviton5 для обработки некоторых ИИ-задач, особенно агентных систем. В AWS, в свою очередь, отмечают колоссальный спрос на свои фирменные чипы. К числу крупных клиентов относится, к примеру, Uber.
Чипы Graviton5 были представлены AWS в конце минувшего года. Эти решения насчитывают 192 ядра Neoverse V3 (Poseidon), каждое из которых оснащено 2 Мбайт кэша L2. Суммарный объём кэша третьего уровня достигает 192 Мбайт. Предусмотрено 12 каналов памяти DDR5-8800. Заявляется, что прирост производительности составляет до 25 % по сравнению с процессорами Graviton предыдущей генерации.
Meta✴ планирует задействовать для собственных нужд «десятки миллионов» ядер Graviton5. Тем самым компания войдёт в число крупнейших заказчиков, использующих процессоры собственной разработки AWS. Руководитель инфраструктурного подразделения Meta✴ отметил, что сотрудничество с AWS нацелено на диверсификацию вычислительных мощностей. По его словам, это необходимо в контексте реализации масштабных инициатив в сфере искусственного интеллекта.
Источник изображения: AWS
Ранее Meta✴ анонсировала стратегический альянс с компанией Arm Holdings, направленный на «повышение эффективности ИИ на всех уровнях вычислений, включая программное обеспечение и инфраструктуру ЦОД». В частности, Meta✴ намерена применять чипы Arm AGI, специально адаптированные для агентного ИИ. Однако, как уточняет The Register, эти изделия начнут поступать в дата-центры Meta✴ не раньше конца текущего года, поэтому пока компания будет разворачивать соответствующие нагрузки на базе Graviton5 в облаке AWS.
Специалисты Counterpoint Research предсказывают, что к 2029 году доля Arm-решений на рынке серверных ASIC-чипов для искусственного интеллекта может достигнуть 90 %. В то же время сама компания Meta✴ разрабатывает собственные ИИ-ускорители MTIA, которые в разных версиях подходят для обучения моделей, выполнения инференса и других задач.
Источник: