OpenAI ha dado un nuevo paso en la evolución de la inteligencia artificial con el lanzamiento de GPT-4o mini , una versión más compacta y económica de su modelo de IA GPT-4o.
Este avance se enmarca en una tendencia general de la industria, donde las compañías de IA están desarrollando versiones más accesibles de sus modelos más sofisticados, buscando un equilibrio entre rendimiento, velocidad y costo.
GPT-4o mini representa un cambio en el paradigma de los modelos de lenguaje. Mientras que los modelos de lenguaje grande (LLM) utilizan miles de millones o incluso billones de parámetros para realizar una amplia gama de tareas de razonamiento y consulta, los modelos de lenguaje pequeño (SLM) como GPT-4o mini emplean solo millones o decenas de millones de parámetros. Esto les permite realizar un conjunto más limitado de tareas, pero con menor potencia de cómputo y un conjunto de datos de entrenamiento más específico.
La ventaja principal de GPT-4o mini radica en su accesibilidad. OpenAI afirma que es un 60% más económico que GPT-3.5 Turbo, su modelo más asequible hasta la fecha. Esto lo convierte en una opción atractiva para desarrolladores que trabajan en aplicaciones más simples o menos lucrativas, donde el costo es un factor crítico.
La velocidad es otro aspecto crucial de GPT-4o mini. Mike Intrator, CEO de CoreWeave, señala que mientras la latencia puede no ser un problema en algunas aplicaciones, como herramientas de IA para tareas escolares, se vuelve crítica en campos como la cirugía o la conducción autónoma. En estos casos, la capacidad de procesar información rápidamente puede tener un impacto significativo en la experiencia del usuario y en la seguridad.
A pesar de su tamaño reducido, GPT-4o mini aún no es lo suficientemente compacto para funcionar en dispositivos como teléfonos o consolas de juegos. Al igual que otros modelos de OpenAI, debe ejecutarse en servidores en la nube. La empresa no ha revelado planes para desarrollar modelos que puedan ejecutarse en dispositivos locales, aunque otras compañías como Apple están trabajando en esa dirección.
Robert Nishihara, cofundador y CEO de Anyscale, destaca la importancia de modelos más rápidos y económicos para el desarrollo de aplicaciones de IA más sofisticadas. Estas aplicaciones a menudo requieren múltiples consultas a diferentes modelos, lo que puede aumentar significativamente los costos y la latencia. La reducción de estos factores es crucial para hacer viable la producción de estas aplicaciones complejas.
GPT-4o mini es parte de la familia GPT-4o, donde la «o» significa «omnimodal», indicando su capacidad para procesar y razonar sobre imágenes y sonidos, además de texto. Actualmente, el modelo mini admite texto y visión en la API, con planes para añadir capacidades de vídeo y audio en el futuro.
OpenAI no ha revelado el tamaño exacto de los parámetros de GPT-4o mini, pero se especula que podría ser similar al Claude 3 Haiku de Anthropic y al Gemini 1.5 Flash de Google. La empresa afirma que GPT-4o mini ofrece un rendimiento superior en pruebas de referencia comparado con modelos similares.
Los desarrolladores ya pueden acceder a GPT-4o mini a través de un API, y el modelo comenzará a soportar consultas desde la aplicación ChatGPT de inmediato. Este lanzamiento, junto con los esfuerzos similares de otras empresas como Meta y Google, marca un paso importante hacia la democratización de la IA, facilitando su integración en una gama más amplia de aplicaciones y, potencialmente, permitiendo el desarrollo de sistemas más complejos como agentes autónomos en el futuro.
