Компания NVIDIA представила процессоры Vera, созданные для решения современных высоконагруженных задач искусственного интеллекта. По заявлениям разработчика, эти чипы предлагают выдающуюся производительность на ядро, а также впечатляющую пропускную способность памяти и сетевых соединений.
В основе Vera лежат ядра Olympus — первые центральные процессоры NVIDIA, целенаправленно созданные для дата-центров. Архитектура Olympus включает 10-битный интерфейс для выборки и декодирования команд, а также нейросетевой предсказатель переходов, способный оценивать два возможных пути выполнения за такт. Чип полностью поддерживает набор инструкций Arm v9.2 и совместим с существующим программным обеспечением.
Источник изображений: NVIDIA
Конфигурация процессора Vera включает 88 ядер Olympus, способных параллельно обрабатывать до 176 потоков команд. Объём кэша третьего уровня достигает 162 МБ. Используется шина NVIDIA Scalable Coherency Fabric (SCF) второго поколения, изначально разработанная для CPU серии Grace. В этом процессоре SCF обеспечивает взаимодействие вычислительных ядер Olympus с общим кэшем L3 и подсистемой памяти, гарантируя стабильную задержку и пропускную способность до 3,4 ТБ/с, что позволяет задействовать свыше 90% пиковой пропускной способности памяти под нагрузкой. Каждое ядро Olympus получает доступ к полосе пропускания до 14 ГБ/с, что примерно в три раза выше, чем у традиционных серверных процессоров.
В Vera применяется подсистема памяти LPDDR5X на базе модулей SOCAMM (Small Outline Compression Attached Memory Modules). Суммарный объём памяти может достигать 1,5 ТБ, что в три раза больше, чем у решений прошлого поколения. Пропускная способность памяти составляет до 1,2 ТБ/с при энергопотреблении менее 50% от традиционных конфигураций с DDR. При этом модули SOCAMM являются сменными, что облегчает обновление и обслуживание систем.
Процессор Vera построен на цельном монолитном вычислительном кристалле. Все ядра обладают одинаковой пропускной способностью. Многие операции, критичные к задержкам, обрабатываются непосредственно на месте, что существенно сокращает межкристальный обмен данными, характерный для классических CPU. По заявлениям разработчиков, такая архитектура обеспечивает чипам Vera до полуторакратного преимущества в одноядерной производительности в сравнении с x86-аналогами при тестировании в изолированной среде под предельной нагрузкой на сокет.
На основе Vera NVIDIA создала линейку платформ, ориентированных на различные задачи в области искусственного интеллекта. В неё входят, например, стоечные процессорные системы с жидкостным охлаждением, а также комплексы с графическими ускорителями поколения Rubin. Оборудование на платформе Vera будет выпускаться ведущими OEM-производителями, такими как Cisco, Dell, HPE, Lenovo и Supermicro. Поставки таких решений начнутся во второй половине этого года.
Источник: