Intel ha compartido detalles importantes sobre su colaboración con el Comité Olímpico Internacional (COI) y sobre la solución de generación aumentada por recuperación (RAG) de IA generativa (GenAI) impulsada por el sector. Estos anuncios demuestran cómo los sistemas y plataformas abiertos de IA que utilizan los aceleradores de IA Intel® Gaudi® y los procesadores Intel® Xeon® ponen el poder en manos de desarrolladores y empresas para afrontar los retos creados por el auge de la IA.
Cómo funciona Athlete365: La clasificación para los Juegos Olímpicos es solo el principio para los atletas. Para ayudar a alrededor de 11.000 atletas con diferentes idiomas y culturas a navegar por la sede y cumplir con las normas y directrices, el COI ha colaborado con Intel para desarrollar conjuntamente un chatbot, Athlete365. Una solución RAG impulsada por el acelerador Intel Gaudi y los procesadores Xeon, que es capaz de gestionar las consultas e interacciones de los atletas y les proporcionará información a demanda durante su estancia en la Villa Olímpica de París, permitiéndoles estar centrados en entrenar y competir.
Por qué es importante
El despliegue de soluciones GenAI plantea retos como el coste, la escala, la precisión, los requisitos de desarrollo, la privacidad y la seguridad. RAG es una carga de trabajo GenAI crucial porque permite a las empresas aprovechar los datos propietarios de forma segura, mejorando la puntualidad y fiabilidad de los resultados de la IA. Esto mejora la calidad y la utilidad de las aplicaciones de IA, lo que es fundamental en el mundo actual impulsado por los datos.
El enfoque colaborativo de Intel, que utiliza plataformas de IA, estándares abiertos y un sólido ecosistema de software y sistemas, permite a los desarrolladores crear soluciones GenAI RAG personalizadas y adaptadas a las necesidades de cada empresa. Así, el anuncio de hoy subraya el compromiso de Intel por ofrecer soluciones de IA generativa abiertas, multiproveedor, sólidas y ajustadas.
Cómo funciona la arquitectura de la solución GenAI RAG
Intel trabaja con socios del sector para crear una solución interoperable de código abierto que facilite el despliegue de RAG. La solución GenAI es una solución RAG impulsada por la industria, lista para usar y lista para la producción, construida sobre la base de la Open Platform for Enterprise AI (OPEA). Aunque la solución GenAI llave en mano ofrece un enfoque racionalizado para desplegar soluciones RAG para empresas en sus centros de datos, está diseñada para ser altamente flexible y personalizable, integrando componentes de un catálogo de ofertas de múltiples sistemas OEM y socios de la industria.
La solución llave en mano GenAI integra componentes de microservicios basados en OPEA en una solución RAG escalable diseñada para desplegar sistemas de IA Intel Xeon e Intel Gaudi. Se escala sin problemas con marcos de orquestación probados como Kubernetes y Red Hat OpenShift y proporciona API estandarizadas con seguridad y telemetría del sistema.
● Derribando muros propietarios con una pila de software abierta: Casi todo el desarrollo de grandes modelos de lenguaje (LLM) se basa en el marco de alta abstracción PyTorch, que es compatible con Intel Gaudi e Intel Xeon, lo que facilita el desarrollo en sistemas o plataformas Intel AI. Intel ha trabajado con OPEA para desarrollar una pila de software abierto para el despliegue de RAG y LLM optimizada para la solución llave en mano GenAI y construida con PyTorch, las bibliotecas de servicio Hugging Face (TGI y TEI), LangChain y la base de datos Redis Vector.
● Encontrar a los desarrolladores donde están: OPEA ofrece canalizaciones RAG de código abierto, estandarizadas, modulares y heterogéneas para empresas, centrándose en el desarrollo de modelos abiertos y la compatibilidad con varios compiladores y cadenas de herramientas. Esta base acelera la integración y entrega de IA en contenedores para casos de uso verticales únicos. OPEA desbloquea nuevas posibilidades de IA mediante la creación de un marco detallado y componible que se sitúa a la vanguardia de las pilas tecnológicas.
Con la solución de GenAI llave en mano y la completa pila de IA empresarial, Intel ofrece una solución completa que aborda los retos que supone desplegar y escalar aplicaciones RAG y LLM en empresas y centros de datos. Aprovechando los sistemas o plataformas de IA impulsados por Intel y el software optimizado en OPEA, las empresas pueden aprovechar todo el potencial de la GenAI con mayor eficiencia y velocidad.
Qué es lo siguiente
Aumentar el acceso a la última tecnología informática de IA es un reto al que se enfrentan las empresas para habilitar resultados empresariales críticos con la GenAI. A través de colaboraciones estratégicas con socios del sector y clientes, Intel está creando nuevas oportunidades para los servicios de IA impulsados por las soluciones de GenAI y RAG.
Por ello, fruto de su compromiso con el avance seguro y responsable de la IA, Intel ha anunciado hoy su colaboración con Google, IBM y otros socios del sector en una nueva Coalición para la IA Segura (CoSAI), creada para mejorar la confianza y la seguridad en el desarrollo y despliegue de la IA.
Intel seguirá demostrando su enfoque único de los sistemas de IA y el continuo impulso de clientes y socios en Intel Innovation los días 24 y 25 de septiembre de 2024.