El impulso de los casos de uso en producción de la IA empresarial es ahora una prioridad para los consejos de administración de la mayoría de las empresas. Sin embargo, uno de los principales retos de la IA hoy en día es garantizar que esos casos de uso estén listos para su aplicación en la vida real y sigan funcionando a un alto nivel en la producción. Las empresas no sólo deben garantizar resultados precisos, fiables y valiosos, sino que también deben abordar y mitigar problemas críticos como los sesgos, las alucinaciones y la toxicidad. La capacidad de demostrar que la IA es fiable y de alto rendimiento será clave para su adopción y su capacidad de seguir ofreciendo valor empresarial.
En Snowflake, estamos llevando a cabo inversiones significativas en IA generativa y capacidades de end-to-end maching learning (ML) para ayudar a los clientes a crear y desplegar casos de uso de IA de alto impacto que maximicen el valor de sus datos. En concreto, hemos realizado varios avances en Snowflake Cortex AI, nuestro servicio de IA generativa totalmente gestionado, y Snowflake ML, nuestro conjunto de capacidades para entrenar, desplegar y ejecutar modelos predictivos.
Nos complace anunciar una nueva inversión complementaria que nos permitirá ofrecer una funcionalidad aún más completa que ayudará a las organizaciones a impulsar la calidad y la fiabilidad de la IA mediante la evaluación, la supervisión y la depuración de modelos y aplicaciones a lo largo de todo el ciclo de vida, tanto en desarrollo como en producción.
Snowflake ha llegado a un acuerdo definitivo para adquirir TruEra, la plataforma de observabilidad de AI, que proporciona capacidades de vanguardia para evaluar y supervisar aplicaciones de grandes modelos lingüísticos (LLM, por sus siglas en inglés) y modelos ML en producción.
La tecnología de TruEra ayuda a evaluar la calidad de las entradas, salidas y resultados intermedios de las aplicaciones LLM. Esto agiliza la evaluación de experimentos para una amplia variedad de casos de uso, como la respuesta a preguntas, el resumen, las aplicaciones basadas en la generación de recuperación aumentada (aplicaciones RAG) y las aplicaciones basadas en agentes. La tecnología de TruEra también proporciona información detallada y procesable para mejorar el rendimiento y la precisión de los modelos de ML al revelar anomalías en las métricas de los modelos y proporcionar un análisis específico de la causa raíz para una depuración rápida.
La observabilidad de IA de TruEra también puede ayudar a identificar los riesgos del LLM y la IA, como alucinaciones, sesgos o toxicidad, de tal manera que estos problemas se puedan abordarse con rapidez y que las organizaciones puedan cumplir con las regulaciones sobre IA.
Las capacidades de TruEra complementan las funcionalidades de gobernanza de datos de IA y ML que ya proporcionamos en AI Data Cloud. Snowflake proporciona capacidades completamente integradas para garantizar la precisión y fiabilidad de los datos utilizados para complementar y entrenar modelos, y las tecnologías de observabilidad desarrolladas por TruEra complementarán y completarán esa historia para la IA.
También nos complace dar la bienvenida a muchos de los talentosos ingenieros y ejecutivos de TruEra, que aportan una profunda experiencia en la observabilidad y explicabilidad de modelos. Entre ellos se encuentran los tres cofundadores de TruEra: Anupam Datta, President and Chief Scientist; Shayak Sen, Chief Technology Officer, and Will Uppington, CEO.
Estamos deseando colaborar con el equipo de TruEra para aportar en el futuro nuevas e importantes capacidades en torno a la observabilidad de la IA y los LLM a AI Data Cloud.
