Arm пополняет семейство вычислительных подсистем Neoverse, ориентированных на ИИ
21.02.2024 | Фекла Дербинова
В то время как Arm продолжает наслаждаться связанным с ИИ ростом на фондовом рынке, британская компания продолжает фокусироваться на улучшении аспектов архитектуры чипов, которые делают возможной всю революцию ИИ - это означает поддержку не только обучения ИИ, но и выводов ИИ.
На этой неделе компания анонсировала две новейшие вычислительные подсистемы Arm Neoverse (CSS), построенные на «совершенно новом IP Neoverse третьего поколения», по словам Мохамеда Авада, старшего вице-президента и генерального менеджера инфраструктурного направления бизнеса Arm.
«В инфраструктуре мы продолжаем трансформацию в сторону более сложных вычислений в масштабах хранилища», - сказал Авад на брифинге, предшествовавшем его недельному анонсу. «Речь больше не идет о чипе, сервере или стойке. Речь идет обо всем центре обработки данных». В 2023 году мы увидели, что этот переход ускорился, поскольку мир принял генеративный ИИ. А в 2024 году и далее мы ожидаем масштабных инноваций, поскольку ИИ проникнет в такие сферы, как образование, занятость, производство, здравоохранение и транспорт».
По словам Авада, часть этой трансформации инфраструктуры включает в себя тенденцию к созданию гипермасштабными компаниями собственных чипов, и в связи с этим, по словам Авада, имеет смысл создать готовую подсистему, тесно интегрирующую аппаратное и программное обеспечение, чтобы дать клиентам преимущество в реализации этих проектов.
«Они переделывают системы с нуля, начиная с заказных SOC», - говорит он о гипермасштабных клиентах Arm, таких как AWS и Microsoft. «Это работает потому, что они знают свои рабочие нагрузки лучше, чем кто-либо другой, а значит, могут точно настроить каждый аспект системы, включая сеть, ускорение и даже вычисления общего назначения, чтобы оптимизировать эффективность работы и, в конечном счете, общую стоимость владения».
По словам Джека Голда (Jack Gold), президента и главного аналитика J. Gold Associates, обновление ИС Neoverse на этой неделе должно порадовать как крупных заказчиков, использующих ИС Arm для создания собственных заказных чипов, так и крупных корпоративных клиентов, готовых к переходу от обучения ИИ к составлению заключений.
«Arm рассматривает рынок серверов и, в частности, расширение возможностей искусственного интеллекта как свою следующую большую область рынка», - сказал Голд. «Она занимается серверными чипами (Neoverse) уже несколько лет, пока с ограниченным успехом, но гипермасштабируемые компании уже делают некоторые собственные проекты чипов на базе IP Arm, и эта новая версия является улучшением по сравнению с предыдущими поколениями».
Что касается перехода рынка от обучения ИИ к выводам, то Голд добавил: «По мере того как пограничное использование ИИ будет набирать обороты, ускорение Neoverse открывает широкие возможности». Конечно, Arm работает с Nvidia над высококлассным Grace Hopper, где IP Arm выполняет процессорную часть [в «суперчипе» CPU+GPU]. Но в области вычислений существует целый рынок, который Nvidia не покрывает и не может покрыть, и это главная область, которую [Arm] может использовать».
Новые продукты Neoverse CSS являются продолжением продуктов Neoverse серий N и V. Neoverse CSS N3 повышает производительность и энергоэффективность на 20% по сравнению с предыдущей моделью CSS N2. В то же время, новая модель Neoverse CSS V3 является первым распространением архитектуры Neoverse CSS на более производительные продукты V-серии, обеспечивая 50-процентное повышение производительности на сокет по сравнению с CSS N2.
Дермот О'Дрисколл, вице-президент по продуктовым решениям инфраструктурного направления Arm, пояснил: «Первая версия CSS N3 предлагает 32 ядра при TDP всего 40 ватт. Он обладает высокой масштабируемостью и охватывает целый ряд приложений, таких как телекоммуникации, сети и DPU. Мы также рассматриваем возможности масштабирования облачных конфигураций». Он также отметил, что CSS N3 - это первый процессор, который привносит в серию N функции Arm v9.2, включая частный L2 объемом два мегабайта на ядро и поддержку новейших стандартов ввода-вывода PCIE и CXL, а также стандартов чиплета UCIE.
Заказчики, которым нужны преимущества CSS, но с большей производительностью, могут выбрать Neoverse CSS V3. «CSS V3 может масштабироваться до 128 ядер на сокет и поддерживает новейшие стандарты высокоскоростной памяти и ввода-вывода. CSS V3 построен на нашем новом ядре Neoverse V3, которое является самым высокопроизводительным однопоточным ядром Neoverse в Arm", - говорит О'Дрисколл.
Возвращаясь к наблюдению Голда о возможностях рынка вывода, О'Дрисколл добавил: «Большая часть внимания была сосредоточена на обучении больших языковых моделей, но мы знаем, что по мере применения генетического ИИ для решения реальных бизнес-задач и приложений фокус будет смещаться в сторону вывода. По оценкам некоторых аналитиков, уже сейчас до 80 % развернутых серверов ИИ предназначены для вычислений, и ожидается, что это число будет расти. Этот сдвиг будет означать поиск правильных моделей и конфигураций моделей, их обучение и последующее развертывание в наиболее экономически эффективной вычислительной инфраструктуре».