En el umbral del 2024, somos espectadores de una metamorfosis digital sin precedentes en el ámbito gubernamental y administrativo a nivel global, enfocada en la optimización de la eficiencia organizativa y la mejora en la prestación de servicios públicos.
Dos pilares fundamentales catalizan esta evolución: la acumulación de datos por diversas entidades y la inteligencia artificial (IA). La IA emerge como un instrumento crucial para desbloquear el valor inherente en estos datos, proporcionando una visión más profunda sobre la vasta información recolectada por las administraciones públicas, y cómo esta puede ser empleada para enriquecer los servicios a la ciudadanía.
Dentro de este contexto, la IA generativa, una clase de IA, está ganando terreno y se proyecta como una herramienta esencial para el año en curso. Es imperativo que los gobiernos, desde el nivel nacional hasta el local, adopten un uso responsable de esta tecnología, convirtiéndose así en custodios fiables de la misma.
Contraste entre la IA Tradicional y la IA Generativa
Para entender los desafíos únicos de la IA generativa frente a la IA tradicional, es esencial comprender sus diferencias fundamentales. La IA tradicional opera principalmente con algoritmos y extensos conjuntos de datos etiquetados para entrenar modelos a través del aprendizaje automático. Estos modelos pueden hacer recomendaciones o identificar patrones de comportamiento. Un ejemplo de ello es su uso en la mejora de sistemas de filtrado de correos electrónicos no deseados o en asistentes virtuales que facilitan la búsqueda de información.
Por otro lado, la IA generativa brilla en la automatización y mejora de tareas administrativas y repetitivas. Se caracteriza por la aplicación de modelos fundamentales, redes neuronales de gran envergadura entrenadas con un cúmulo de datos no etiquetados y ajustadas para diversas tareas. Esta tecnología puede identificar, resumir, transformar, predecir y generar contenido de manera eficiente a partir de grandes conjuntos de datos. Su implementación en el sector público podría significar un salto cuántico en la eficiencia, permitiendo a las organizaciones cumplir sus tareas cotidianas con una fracción de los recursos previamente necesarios.
Esta tecnología ofrece una oportunidad sin parangón para mejorar varios aspectos de las operaciones de las administraciones públicas y elevar la calidad de los servicios a los ciudadanos. Por ejemplo, podría potenciar a los empleados públicos con herramientas avanzadas para responder consultas y realizar investigaciones; tareas como la redacción y gestión de contratos, que son cruciales y consumen mucho tiempo, podrían beneficiarse enormemente.
Implementación responsable de la IA Generativa
Las capacidades generativas de esta tecnología emergente conllevan interrogantes sobre su uso ético en el sector público. Por ejemplo, es fundamental que los administradores de contratos puedan confiar en que la investigación original se traduce fielmente en un contrato legalmente vinculante.
Recientemente, la IA generativa ha captado la atención del público general principalmente a través de herramientas que utilizan texto, imágenes, videos y audio para crear contenido personalizado. Sin embargo, el detalle en la capacitación de algunos de estos modelos puede ser insuficiente, especialmente para empresas grandes o industrias altamente reguladas que dependen de la confianza pública.
Para fomentar una IA responsable, las administraciones públicas deben preparar meticulosamente sus datos internos para aprovechar al máximo el potencial tanto de la IA tradicional como de la generativa. Además, es necesario establecer estándares éticos desde el inicio, incluyendo la supervisión humana para asegurar la precisión del contenido generado por la IA y prevenir sesgos, entre otras consideraciones.
Pilares fundamentales para el desarrollo de una IA responsable en el sector público
Según Cristina Caballé Fuguet, VP Global Public Sector en IBM, el desarrollo responsable de la IA por parte de IBM se enfoca en cinco pilares fundamentales para asegurar una IA confiable:
- Equidad: La capacidad del sistema de IA para tratar a individuos o grupos de forma equitativa según el contexto de uso, contrarrestando prejuicios y previniendo discriminación.
- Privacidad: Priorizar y salvaguardar la privacidad y los derechos de datos de los consumidores, cumpliendo con regulaciones de recopilación, almacenamiento, acceso y divulgación de datos.
- Explicabilidad: Capacidad del sistema de IA para proporcionar explicaciones interpretables por humanos de sus predicciones y conocimientos.
- Transparencia: Incluir y compartir información sobre el diseño, desarrollo y fuentes de datos utilizadas en el sistema de IA y sus modelos.
- Robustez: La habilidad del sistema de IA para manejar condiciones excepcionales, asegurando resultados consistentes.
IBM Watsonx™, una plataforma integrada de IA, datos y gobernanza, ejemplifica estos principios, ofreciendo un enfoque transparente y eficiente para el desarrollo de IA en diversos entornos. Más específicamente, IBM Watsonx.governance™, facilitará a los equipos del sector público automatizar y abordar estas áreas, permitiéndoles dirigir y monitorear las actividades de IA de sus organizaciones.
A medida que el sector público avanza en la adopción de tecnologías como la IA, IA generativa y la automatización para resolver problemas y mejorar la eficiencia, es crucial mantener la confianza y transparencia en cualquier solución basada en IA. Los equipos deben tener la capacidad de comprender y gestionar el ciclo de vida de la IA de manera efectiva. La adopción proactiva de prácticas responsables de IA, especialmente por parte del sector público, representa una oportunidad para mejorar colectivamente.
