Red Hat интегрирует NIMs Nvidia в OpenShift AI

07.05.2024 | Фекла Дербинова

Компания Red Hat углубляет свое партнерство с Nvidia в области ИИ, объявив на этой неделе на Red Hat Summit 2024 в Денвере, что она работает над интеграцией микросервисов NIM AI inference от Nvidia в Red Hat OpenShift AI, чтобы помочь ускорить разработку приложений генеративного ИИ для пользователей OpenShift.

Это заявление было сделано после того, как Nvidia анонсировала набор микросервисов NIM для ускорения доступа к различным моделям ИИ на своем мероприятии Nvidia GTC в апреле. Тогда в качестве партнеров были заявлены такие компании, как ServiceNow и SAP, а Red Hat также сообщила, что будет поддерживать доступ к Nvidia NIM для организаций, использующих OpenShift для создания приложений генеративного ИИ.

Теперь, в рамках этого последнего сотрудничества, Nvidia обеспечивает взаимодействие NIM с KServe, проектом с открытым исходным кодом на базе Kubernetes для высокомасштабируемых приложений искусственного интеллекта и одним из основных поставщиков Red Hat OpenShift AI, согласно Red Hat, которая добавила, что это поможет обеспечить непрерывное взаимодействие для микросервисов NIM в будущих итерациях OpenShift AI.

Компании заявили, что преимущества интеграции включают:

Без такой интеграции организациям было бы сложно и долго внедрять различные модели ИИ в разработку приложений, и эта проблема будет только расти по мере появления новых моделей, по словам Джастина Бойтано (Justin Boitano), вице-президента по корпоративным продуктам в NVIDIA.

«Каждая корпоративная команда разработчиков хочет как можно быстрее и безопаснее запустить свои приложения генеративного ИИ в производство. Интеграция Nvidia NIM в Red Hat OpenShift AI знаменует собой новую веху в нашем сотрудничестве, поскольку поможет разработчикам быстро создавать и масштабировать современные корпоративные приложения, используя оптимизированную по производительности основу и внедряя модели в любом облаке или центре обработки данных».

Стивен Хьюлс, вице-президент и генеральный менеджер подразделения искусственного интеллекта компании Red Hat, добавил: «Даже за последние девять месяцев разнообразие и объем моделей, которые выходят на рынок, даже не включая все варианты разных размеров с различными критериями производительности, стали ошеломляющими и... практически неподъемными для заказчиков, чтобы они могли идти в ногу со временем».

Хьюлс продолжил: «Красота того, что мы делаем для этих микросервисов, заключается в том, что мы будем предлагать Nvidia NIM из openshift AI, так что у клиентов будет возможность из OpenShift AI легко развертываться в них. Итак, нажмите пару кнопок, и вы сможете выбрать любой из Nvidia NIM, развернуть его в OpenShift AI, а затем с помощью этого интерфейса масштабировать и управлять им наряду с другими интеллектуальными приложениями или моделями, которые вы запускаете».

GF получит 1,5 млрд долларов по закону CHIPS на строительство новой фабрики в Нью-Йорке и модернизацию двух фабрик

Компания GlobalFoundries получила предварительный грант в размере 1,5 млрд. долл. и 1,6 млрд. долл. в виде займов в рамках закона CHIPS, объявили в понедельник официальные лица США. Полученные средства будут распределены между новым 300-мм заводом в Мальте, штат Не | GF имеет связи с США как поставщик оборонной и аэрокосмической продукции.

Arm бьет тревогу по поводу энергоемких чипов для ИИ; ссылается на стоимость процессора Neoverse

Генеральный директор Arm Рене Хаас (Rene Haas) в своем новом блоге дал резкую оценку потребностям в электроэнергии для рабочих нагрузок ИИ в центрах обработки данных по всему миру. | «Нет электричества - нет ИИ», - отмечает генеральный директор Arm Рене Хаас в новом блоге о росте числа ИИ-вычислений, требующих электроэнергии.

Qualcomm сообщает о росте доходов и оптимистичном прогнозе относительно потенциала искусственного интеллекта

Qualcomm, похоже, стала последней компанией, получившей толчок к развитию благодаря волнению по поводу искусственного интеллекта. | Qualcomm видит потенциал внедрения искусственного интеллекта во многие конечные устройства, что, как ожидается, приведет к увеличению доходов разработчика чипов.

Arm отвечает на продвижение ИИ в ПК и смартфоны с помощью CSS для Client

Растущее присутствие компьютеров и смартфонов с искусственным интеллектом показывает, что спрос на более мощные вычисления и более высокую энергоэффективность, обусловленный искусственным интеллектом, не является тенденцией, ограничивающейся центрами обработки данных. | ИИ-помощники и связанные с ними возможности расширяют потребность в вычислительной поддержке ИИ на смартфоны, ПК и другие клиентские устройства.

Prophesee комплектует датчики событийного видения набором ИИ для технического зрения AMD

Компания Prophesee, французский разработчик нейроморфных систем технического зрения, используемых в датчиках технического зрения и сопутствующих продуктах, объединилась с AMD, чтобы сделать свой датчик Metavision HD на основе событий и искусственного интеллекта доступным | Компания Prophesee объединила свою технологию датчика технического зрения на основе событий с набором AMD FPGA Vision AI Starter Kit в новое предложение.

Stream Analyze выводит программное обеспечение для искусственного интеллекта на рынок IoT в США

Как далеко может зайти краевой ИИ? | Компания Stream Analyze стремится расширить возможности устройств на границе IoT с помощью аналитики на основе искусственного интеллекта, которая может помочь в предиктивном обслуживании и других приложениях.