Red Hat, Inc., a anunciado la próxima integración de los microservicios NVIDIA NIM en Red Hat OpenShift AI , que permitirá la optimización de docenas de modelos de inteligencia artificial (IA) respaldados por una plataforma de nube híbrida IA/ML coherente y de código abierto. Las organizaciones podrán utilizar Red Hat OpenShift AI con NVIDIA NIM, un conjunto de microservicios fáciles de usar que se incluyen como parte de la plataforma de software NVIDIA AI Enterprise para acelerar la entrega de aplicaciones de IA generativa y acelerar la obtención de valor.
El soporte a NVIDIA NIM en Red Hat OpenShift AI se basa en la optimización existente para NVIDIA AI Enterprise en las tecnologías líderes de nube híbrida abierta de Red Hat, como Red Hat Enterprise Linux y Red Hat OpenShift. Como parte de ese acuerdo, NVIDIA permitirá la interoperabilidad de NIM con KServe, un proyecto de código abierto basado en Kubernetes para casos de uso de IA altamente escalables que ya contribuye activamente con Red Hat OpenShift AI. Esto ayudará a impulsar la interoperabilidad continua de los microservicios NIM de NVIDIA en futuras versiones de Red Hat OpenShift AI.
Esta integración permitirá a las empresas aumentar la productividad con capacidades de IA generativa, como ampliar la atención al cliente con asistentes virtuales, integrar información en tickets de TI y acelerar las operaciones empresariales con copilotos de dominios específicos.
Utilizando Red Hat OpenShift AI con NVIDIA NIM, las organizaciones pueden beneficiarse de:
● Una vía de integración más simple para implantar NVIDIA NIM en flujos de trabajo comunes con otras implantaciones de IA, con mayor coherencia y una gestión más sencilla.
● Escalado y monitorización integrados de los despliegues de NVIDIA NIM en coordinación con el despliegue de otros modelos de IA en entornos de nube híbrida.
● Seguridad, asistencia y estabilidad de nivel empresarial para garantizar la fluidez en la transición del prototipado a la producción a las empresas que basan su negocio en la IA.
Los microservicios NVIDIA NIM están diseñados para acelerar la implantación de la IA generativa en las empresas. Compatible con una amplia gama de modelos de IA, desde los de la comunidad de código abierto a los de la NVIDIA AI Foundation y a modelos personalizados, NIM proporciona capacidades de IA escalables e integrada en la propia infraestructura del cliente o en la nube, a través de interfaces de programación de aplicaciones (APIs) estándar del sector.
