Dynatrace, ha anunciado que ha ampliado su plataforma de análisis y automatización para proporcionar observabilidad y seguridad holísticas para grandes modelos de lenguaje (LLM) y aplicaciones impulsadas por IA generativa. Esta mejora de la plataforma Dynatrace® permite a las organizaciones de todo el mundo adoptar la IA generativa con confianza y de forma rentable como parte de su enfoque en el aumento de la innovación, la productividad y los ingresos.
Dynatrace® AI Observability es una solución integral. Cubre el stack de IA de extremo a extremo, incluida la infraestructura, como las GPU Nvidia®, los modelos fundacionales, como GPT4, las cachés semánticas y las bases de datos vectoriales, como Weaviate, y los marcos de orquestación, como LangChain. También es compatible con las principales plataformas de creación, formación y entrega de modelos de IA, como Microsoft® Azure OpenAI Service, Amazon® SageMaker y Google® AI Platform.
Dynatrace AI Observability aprovecha la IA Davis® de la plataforma y otras tecnologías básicas para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA. Como resultado, las organizaciones pueden ofrecer una gran experiencia de usuario a la vez que identifican automáticamente los cuellos de botella en el rendimiento y las causas raíz. La observabilidad de Dynatrace AI con Davis AI también contribuye a cumplir las normativas de privacidad y seguridad, así como los estándares de gobernanza, al rastrear con precisión los orígenes de los resultados creados por sus aplicaciones. Además, les ayuda a prever y controlar los costes supervisando su consumo de tokens, que son las unidades básicas que utilizan los modelos de IA generativa para procesar las consultas.
Gartner® afirma: «En 2028, la adopción de la IA alcanzará más del 50% de los recursos de TI en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023». Este crecimiento refleja en parte el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y la productividad, impulsar la automatización y fomentar la innovación. A pesar de este impulso, muchas organizaciones están preocupadas por los costes asociados a los servicios impulsados por IA generativa. Estos pueden ser varias veces más caros que los servicios tradicionales en la nube y son difíciles de prever porque se basan en el consumo de tokens de IA generativa por parte de aplicaciones que aún no están en producción. Simultáneamente, los gobiernos de todo el mundo están estableciendo normativas centradas en el uso de las tecnologías de IA de forma responsable y ética y en cumplimiento de las leyes aplicables.
Las organizaciones no pueden permitirse ignorar el potencial de la IA generativa. Sin embargo, necesitan una observabilidad completa impulsada por IA para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, «alucinaciones» de la IA y malas experiencias de usuario.
