Arm бьет тревогу по поводу энергоемких чипов для ИИ; ссылается на стоимость процессора Neoverse

17.04.2024 | Фекла Дербинова

Генеральный директор Arm Рене Хаас (Rene Haas) в своем новом блоге дал резкую оценку потребностей в электроэнергии для рабочих нагрузок ИИ в центрах обработки данных по всему миру. Ожидается, что к 2030 году объем вычислений с использованием искусственного интеллекта вырастет в 3 раза, что превысит общий объем энергопотребления Индии, самой большой страны в мире.

«Будущие модели ИИ будут становиться все больше и умнее, что приведет к росту потребности в вычислениях, а это в свою очередь увеличит спрос на электроэнергию», - говорит Хаас. Поиск путей снижения требований к энергопотреблению для этих крупных центров обработки данных имеет первостепенное значение для достижения прорыва в обществе и реализации перспектив ИИ». Другими словами, нет электричества - нет ИИ».

Компания Arm создает архитектуры чипов, широко используемые производителями микросхем, и, естественно, ставит эти разработки в центр внимания в связи с необходимостью снижения энергопотребления. «Неудивительно, что крупнейшие в мире гипермасштабируемые ИИ-компании обратились к Arm для снижения энергопотребления», - добавил он, позиционируя новейший процессор Arm Neoverse как лучший по мощности и производительности как для выводов, так и для обучения ИИ.

По словам Хааса, центры обработки данных уже потребляют 460 тераватт-часов электроэнергии в год, что эквивалентно всей Германии. В типичной серверной стойке один только вычислительный чип потребляет более половины всей электроэнергии. «Каждый ватт на счету», - сказал он.

В качестве примеров возможностей Neoverse он назвал AWS Arm-based Graviton, Google Cloud Arm-based Axion, Microsoft Azure Arm-based Cobalt и Oracle Cloud Arm-based Ampere Altra Max. В примере Oracle Ampere на базе Arm помогла обеспечить в 2,5 раза большую производительность на стойку серверов при 2,8 меньшей мощности по сравнению с традиционными конкурентами при использовании для задач искусственного интеллекта, таких как обучающие маркеры LLM.

Arm предоставляет половину новой платформы Nvidia Grace Blackwell (GB200), состоящей из GPU Blackwell и CPU Grace на базе Arm, что позволяет снизить энергопотребление в 25 раз при 30-кратном увеличении производительности на GPU по сравнению с существующими GPU Nvidia H100, которые опираются на конкурирующие CPU Intel Xeon.

Хаас пришел к выводу, что внедрение Arm может помочь компаниям сэкономить до 15 % общей мощности центров обработки данных, что позволит увеличить производительность ИИ при той же мощности и «не усугублять проблему энергопотребления». По его словам, такая экономия энергии позволила бы выполнять на 2 миллиарда больше запросов ChatGPT, обеспечивать четверть ежедневного поискового трафика в Интернете или освещать 20 % американских домохозяйств.

Хотя блог Arm - это, по сути, реклама Neoverse, он указывает на общепризнанную проблему, когда центры обработки данных, пытающиеся запуститься или расшириться, сталкиваются с проблемами получения электроэнергии в разных местах. К ним относятся такие районы США, как округ Лаудон, штат Вирджиния, часть штата Джорджия, Техас, Орегон и другие. Амстердам ограничил рост дата-центров из-за проблем с электроснабжением, а недавно эта проблема возникла в Дублине, Ирландия.

Международное энергетическое агентство недавно сообщило, что 2700 центров обработки данных в США потребляли более 4 % всей электроэнергии в стране в 2022 году, а в 2026 году прогнозируется, что они будут потреблять 6 %.

По данным McKinsey, в 2002 году потребность центров обработки данных в США составляла почти 17 гигаватт, а в 2026 году, по прогнозам, достигнет 25 гигаватт. Для выработки одного гигаватта энергии требуется большая атомная станция.

Су из AMD приезжает на SXSW, чтобы рассказать о ПК с искусственным интеллектом и многом другом

Компания AMD стремится вытеснить Nvidia из числа главных пропагандистов и бенефициаров революции искусственного интеллекта. На этой неделе генеральный директор AMD Лиза Су представила свою заявку на замену генерального директора Nvidia Дженсена Хуанга на посту главы полупроводниковой отрасли | Генеральный директор AMD Лиза Су рассказала на SXSW о важности искусственного интеллекта, возможностях генеративного искусственного интеллекта, о том, что пользователи могут сделать с ПК с искусственным интеллектом и многом другом.

Intel увеличила выручку в первом квартале, но прогноз на второй квартал не впечатляет

Отчет Intel о доходах за первый квартал дал наблюдателям много поводов для размышлений, поскольку он стал первым с тех пор, как компания отделила свой литейный бизнес от операций по разработке чипов (подразделение, включающее в себя | Продажи Intel в первом квартале были обеспечены ростом в группе клиентских вычислений и подразделении ИИ для центров обработки данных, в то время как в других подразделениях наблюдалось снижение доходов.

Как пересекаются и различаются ИИ и GenAI

Генеративный искусственный интеллект (GenAI) переживает настоящий момент, но, несмотря на все внимание к нему, он составляет лишь малую часть ИИ и машинного обучения, которые используются сегодня. | Бережливое программное обеспечение, оптимизированное по мощности оборудование добавляют автоматизированный интеллект в сложные среды

Arm пополняет семейство вычислительных подсистем Neoverse, ориентированных на ИИ

В то время как компания Arm продолжает наслаждаться ростом акций, связанным с искусственным интеллектом, британская компания Arm представила свои новейшие вычислительные подсистемы Neoverse, отвечающие требованиям искусственного интеллекта и растущим потребностям клиентов Arm, использующих IP-технологии Neoverse.

GF получит 1,5 млрд долларов по закону CHIPS на строительство новой фабрики в Нью-Йорке и модернизацию двух фабрик

Компания GlobalFoundries получила предварительный грант в размере 1,5 млрд. долл. и 1,6 млрд. долл. в виде займов в рамках закона CHIPS, объявили в понедельник официальные лица США. Полученные средства будут распределены между новым 300-мм заводом в Мальте, штат Не | GF имеет связи с США как поставщик оборонной и аэрокосмической продукции.

Altera снова на подъеме, поскольку подразделение Intel нацелилось на перспективы развития ПЛИС стоимостью более $55 млрд.

У Intel появилось новое имя для ее дочерней компании по производству ПЛИС, и оно знакомо. | В 2015 году Intel приобрела компанию Altera, чтобы продвигать ПЛИС, и теперь этот бренд снова возвращается.