Red Hat интегрирует NIMs Nvidia в OpenShift AI

07.05.2024 | Фекла Дербинова

Компания Red Hat углубляет свое партнерство с Nvidia в области ИИ, объявив на этой неделе на Red Hat Summit 2024 в Денвере, что она работает над интеграцией микросервисов NIM AI inference от Nvidia в Red Hat OpenShift AI, чтобы помочь ускорить разработку приложений генеративного ИИ для пользователей OpenShift.

Это заявление было сделано после того, как Nvidia анонсировала набор микросервисов NIM для ускорения доступа к различным моделям ИИ на своем мероприятии Nvidia GTC в апреле. Тогда в качестве партнеров были заявлены такие компании, как ServiceNow и SAP, а Red Hat также сообщила, что будет поддерживать доступ к Nvidia NIM для организаций, использующих OpenShift для создания приложений генеративного ИИ.

Теперь, в рамках этого последнего сотрудничества, Nvidia обеспечивает взаимодействие NIM с KServe, проектом с открытым исходным кодом на базе Kubernetes для высокомасштабируемых приложений искусственного интеллекта и одним из основных поставщиков Red Hat OpenShift AI, согласно Red Hat, которая добавила, что это поможет обеспечить непрерывное взаимодействие для микросервисов NIM в будущих итерациях OpenShift AI.

Компании заявили, что преимущества интеграции включают:

Без такой интеграции организациям было бы сложно и долго внедрять различные модели ИИ в разработку приложений, и эта проблема будет только расти по мере появления новых моделей, по словам Джастина Бойтано (Justin Boitano), вице-президента по корпоративным продуктам в NVIDIA.

«Каждая корпоративная команда разработчиков хочет как можно быстрее и безопаснее запустить свои приложения генеративного ИИ в производство. Интеграция Nvidia NIM в Red Hat OpenShift AI знаменует собой новую веху в нашем сотрудничестве, поскольку поможет разработчикам быстро создавать и масштабировать современные корпоративные приложения, используя оптимизированную по производительности основу и внедряя модели в любом облаке или центре обработки данных».

Стивен Хьюлс, вице-президент и генеральный менеджер подразделения искусственного интеллекта компании Red Hat, добавил: «Даже за последние девять месяцев разнообразие и объем моделей, которые выходят на рынок, даже не включая все варианты разных размеров с различными критериями производительности, стали ошеломляющими и... практически неподъемными для заказчиков, чтобы они могли идти в ногу со временем».

Хьюлс продолжил: «Красота того, что мы делаем для этих микросервисов, заключается в том, что мы будем предлагать Nvidia NIM из openshift AI, так что у клиентов будет возможность из OpenShift AI легко развертываться в них. Итак, нажмите пару кнопок, и вы сможете выбрать любой из Nvidia NIM, развернуть его в OpenShift AI, а затем с помощью этого интерфейса масштабировать и управлять им наряду с другими интеллектуальными приложениями или моделями, которые вы запускаете».

AMD получила роль референс-дизайнера лидара в Sony Semiconductor

На этой неделе компания AMD объявила о том, что ее адаптивные SoC Zynq UltraScale+ MPSoC и ПЛИС Artix-7 будут использованы компанией Sony Semiconductor Solutions (SSS) в новейшем эталонном проекте автомобильного лидара | Недавняя сделка AMD с Sony стала очередной в череде автомобильных побед AMD.

Nvidia, Oracle, QMware готовят гибридные квантово-классические вычисления

В последние годы Oracle Corp. резко увеличила свои инвестиции в графические процессоры Nvidia, укрепляя свою облачную инфраструктуру Oracle для удовлетворения растущего спроса на корпоративный искусственный интеллект. | Давние партнеры Nvidia и Oracle сотрудничают с компанией QMware, занимающейся квантовыми вычислениями, для поддержки гибридных квантово-классических вычислений.

AMD представляет новые чипы Ryzen для эволюции ПК с искусственным интеллектом

Компания AMD наращивает обороты в гонке за оснащение настольных и портативных ПК более широкими возможностями для обработки данных искусственного интеллекта. | В прошлом месяце на выставке SXSW генеральный директор AMD Лиза Су рассказала о роли своей компании в движении ПК с искусственным интеллектом, а на этой неделе AMD представила свои новейшие процессоры для ПК.

Andretti, Zapata AI deal proceeds, to tap generative AI, quantum

Акционеры Andretti Acquisition Corp., компании по приобретению активов специального назначения (SPAC), одобрили слияние с Zapata AI, бостонским стартапом, стремящимся извлечь выгоду из генеративного ИИ. Andretti Acquisition Corp. получила одобрение акционеров на слияние с Zapata AI, которая стремится стать «публично торгуемой, чисто генеративной ИИ-компанией».

Новый китайский фонд чипов в размере 47 млрд долларов не обеспечит быстрой производительности, считают аналитики

Китай только что создал фонд в размере $47,5 млрд для поддержки своего стремления к самодостаточности в производстве полупроводников, что рассматривается как очевидная реакция на экспортный контроль США в последние годы. | Создание фонда помогает Китаю стать более самодостаточным после того, как США и Европа ввели санкции против чипов и оборудования для их производства.

Zapata AI, Andretti участвуют в более глубоком сотрудничестве в области генеративного ИИ

Компания Zapata AI, занимающаяся разработкой программного обеспечения для генеративного искусственного интеллекта, и автоспортивная организация Andretti INDYCAR заявили, что они будут работать вместе уже третий гоночный сезон подряд, продолжая изучать, как Zapa | Motorsports организация Andretti работает с технологией генеративного искусственного интеллекта Zapata AI «для создания улучшенного технологического стека для конкретных случаев использования, включая стратегию гонки и генерацию сигналов данных».