Red Hat интегрирует NIMs Nvidia в OpenShift AI

07.05.2024 | Фекла Дербинова

Компания Red Hat углубляет свое партнерство с Nvidia в области ИИ, объявив на этой неделе на Red Hat Summit 2024 в Денвере, что она работает над интеграцией микросервисов NIM AI inference от Nvidia в Red Hat OpenShift AI, чтобы помочь ускорить разработку приложений генеративного ИИ для пользователей OpenShift.

Это заявление было сделано после того, как Nvidia анонсировала набор микросервисов NIM для ускорения доступа к различным моделям ИИ на своем мероприятии Nvidia GTC в апреле. Тогда в качестве партнеров были заявлены такие компании, как ServiceNow и SAP, а Red Hat также сообщила, что будет поддерживать доступ к Nvidia NIM для организаций, использующих OpenShift для создания приложений генеративного ИИ.

Теперь, в рамках этого последнего сотрудничества, Nvidia обеспечивает взаимодействие NIM с KServe, проектом с открытым исходным кодом на базе Kubernetes для высокомасштабируемых приложений искусственного интеллекта и одним из основных поставщиков Red Hat OpenShift AI, согласно Red Hat, которая добавила, что это поможет обеспечить непрерывное взаимодействие для микросервисов NIM в будущих итерациях OpenShift AI.

Компании заявили, что преимущества интеграции включают:

Без такой интеграции организациям было бы сложно и долго внедрять различные модели ИИ в разработку приложений, и эта проблема будет только расти по мере появления новых моделей, по словам Джастина Бойтано (Justin Boitano), вице-президента по корпоративным продуктам в NVIDIA.

«Каждая корпоративная команда разработчиков хочет как можно быстрее и безопаснее запустить свои приложения генеративного ИИ в производство. Интеграция Nvidia NIM в Red Hat OpenShift AI знаменует собой новую веху в нашем сотрудничестве, поскольку поможет разработчикам быстро создавать и масштабировать современные корпоративные приложения, используя оптимизированную по производительности основу и внедряя модели в любом облаке или центре обработки данных».

Стивен Хьюлс, вице-президент и генеральный менеджер подразделения искусственного интеллекта компании Red Hat, добавил: «Даже за последние девять месяцев разнообразие и объем моделей, которые выходят на рынок, даже не включая все варианты разных размеров с различными критериями производительности, стали ошеломляющими и... практически неподъемными для заказчиков, чтобы они могли идти в ногу со временем».

Хьюлс продолжил: «Красота того, что мы делаем для этих микросервисов, заключается в том, что мы будем предлагать Nvidia NIM из openshift AI, так что у клиентов будет возможность из OpenShift AI легко развертываться в них. Итак, нажмите пару кнопок, и вы сможете выбрать любой из Nvidia NIM, развернуть его в OpenShift AI, а затем с помощью этого интерфейса масштабировать и управлять им наряду с другими интеллектуальными приложениями или моделями, которые вы запускаете».

Arm обращается к автопроизводителям с новыми чипами и подсистемами

Компания Arm собирается засучить рукава и погрузиться по локоть в автомобильный рынок. | Arm выходит на автомобильный рынок с чипами, основанными на технологии Arm v9 серверного класса.

Microchip покупает Neuronix AI Labs, совмещая ПЛИС, компьютерное зрение

Компания Microchip Technology недавно объявила о приобретении четырехлетней компании Neuronix AI Labs, специализирующейся на компьютерном зрении и искусственном интеллекте, чтобы расширить свои возможности по созданию энергоэффективных пограничных решений с поддержкой искусственного интеллекта.| С приобретением Neuronix AI Labs компания Microchip планирует добавить в свои ПЛИС технологию искусственного интеллекта с компьютерным зрением.

Arm пополняет семейство вычислительных подсистем Neoverse, ориентированных на ИИ

В то время как компания Arm продолжает наслаждаться ростом акций, связанным с искусственным интеллектом, британская компания Arm представила свои новейшие вычислительные подсистемы Neoverse, отвечающие требованиям искусственного интеллекта и растущим потребностям клиентов Arm, использующих IP-технологии Neoverse.

SensiML открывает исходный код Analytics Studio для TinyML-кода для приложений для IoT-датчиков

Компания SensiML (рифмуется с «sensible»), дочерняя компания QuickLogic, недавно выступила с амбициозной инициативой: предложить дизайнерам полный открытый доступ к своим автоматизированным системам машинного обучения | Компания планирует показать на выставке Sensors Converge концепт умной дрели, которая использует искусственный интеллект для отключения двигателя вместо механического сцепления.

Новый китайский фонд чипов в размере 47 млрд долларов не обеспечит быстрой производительности, считают аналитики

Китай только что создал фонд в размере $47,5 млрд для поддержки своего стремления к самодостаточности в производстве полупроводников, что рассматривается как очевидная реакция на экспортный контроль США в последние годы. | Создание фонда помогает Китаю стать более самодостаточным после того, как США и Европа ввели санкции против чипов и оборудования для их производства.

Фермеры не покупают много тракторов, но автономность не за горами

Тракторы и другое сельскохозяйственное оборудование скапливаются на торговых площадках дилеров из-за падения цен на урожай и сохраняющихся высоких процентных ставок, которые удерживают фермеров от совершения покупок. | Два аналитика считают, что тенденция к созданию автономных тракторов слишком важна для долгосрочного роста и обеспечения мировых потребностей в продовольствии в условиях затянувшейся нехватки рабочей силы.