Cloudera, en colaboración con NVIDIA, ha lanzado Cloudera AI Inference durante su evento anual Evolve en Nueva York. Esta plataforma promete un rendimiento hasta 36 veces superior en el despliegue de modelos de inteligencia artificial generativa (GenAI), gracias a la integración de microservicios NVIDIA NIM. La colaboración combina la experiencia en gestión de datos de Cloudera con la capacidad de computación de NVIDIA, permitiendo la implementación de aplicaciones de IA tanto en entornos locales (on-premise) como en la nube de manera más eficiente y controlada.
Optimización en la implementación de IA generativa
Cloudera AI Inference está diseñado para gestionar modelos de IA a gran escala, maximizando el uso de datos empresariales con altos niveles de seguridad. Esta solución aborda preocupaciones clave de las empresas en términos de cumplimiento y gobernanza de datos, como se destaca en un informe reciente de Deloitte, que indica que más del 66% de las organizaciones han incrementado sus presupuestos en GenAI durante el tercer trimestre de 2024.
La plataforma ofrece una solución escalable que permite a las organizaciones controlar sus implementaciones de IA, protegiendo sus datos sensibles y minimizando riesgos de posibles filtraciones.
Tecnología integrada para eficiencia y seguridad
La integración de los microservicios NVIDIA NIM en Cloudera AI Inference no solo incrementa la eficiencia en el desarrollo de chatbots, asistentes virtuales y otras aplicaciones de IA, sino que también optimiza la gobernanza y refuerza la seguridad en estas implementaciones.
La combinación de las GPUs NVIDIA Tensor Core con la infraestructura de Cloudera proporciona una tasa de rendimiento casi cuatro veces superior en comparación con sistemas basados exclusivamente en CPUs. Además, la unificación de interfaces gráficas y APIs mediante los microservicios de NVIDIA elimina la necesidad de sistemas adicionales de monitorización, lo que simplifica el despliegue y facilita el control centralizado.
El servicio se conecta con el Registro de Modelos de IA de Cloudera, permitiendo gestionar de manera centralizada los controles de acceso y las operaciones de los modelos de IA. Esto asegura una plataforma eficiente y segura para gestionar tanto modelos de lenguaje de gran tamaño (LLM) como modelos tradicionales, ajustándose a las políticas de cumplimiento normativo y privacidad requeridas en entornos empresariales.
Contexto y perspectiva empresarial
Este lanzamiento refuerza la posición de Cloudera en el mercado de soluciones empresariales de IA en un contexto donde la transformación digital y la adopción de tecnologías avanzadas son fundamentales para diversos sectores. Desde la industria financiera hasta las administraciones públicas, las organizaciones buscan cada vez más soluciones que les permitan gestionar sus datos y aplicaciones de IA de manera segura y escalable.
Cloudera continúa ofreciendo una plataforma híbrida que permite la gestión de grandes volúmenes de datos tanto en nubes públicas como privadas, asegurando privacidad y cumplimiento normativo en las implementaciones de GenAI. Además, su enfoque en una infraestructura unificada y centralizada permite a las empresas adaptar sus recursos según sus necesidades, garantizando una solución flexible y robusta para la inteligencia artificial empresarial.
