El filósofo Daniel Innerarity presentó el pasado 1 de abril en la Fundación Ramón Areces su propuesta de Una teoría crítica de la inteligencia artificial , título también de su último ensayo.
El coloquio, presentada por Senén Barro, director del Centro CiTIUS, contó con la participación de María González Veracruz, secretaria de Estado de Digitalización e Inteligencia Artificial, abordó los desafíos que plantea el desarrollo tecnológico para las democracias contemporáneas.
Innerarity argumenta que la inteligencia artificial (IA) no solo transforma procesos técnicos o económicos, sino que altera profundamente las condiciones estructurales sobre las cuales se basa la toma democrática de decisiones. A diferencia del enfoque ético habitual centrado en exhortaciones normativas —«hagamos una IA responsable»— propone un análisis crítico orientado a comprender qué estructuras permiten o impiden esa responsabilidad.
Durante su intervención, subrayó tres factores clave que están reconfigurando el entorno político: sistemas cada vez más inteligentes capaces de tomar decisiones autónomas; tecnologías integradas ubicuamente en todos los ámbitos sociales; y sociedades cuantificadas donde los datos personales son continuamente recolectados y procesados. Esta transformación exige repensar conceptos fundamentales como soberanía popular o voluntad colectiva.
Uno de los puntos centrales fue cómo garantizar control humano significativo sobre sistemas automatizados sin comprometer sus capacidades operativas. Innerarity propuso redefinir lo que entendemos por “control”, alejándose tanto del determinismo tecnológico como del alarmismo regulatorio. Comparó esta relación con la educación: formar inteligencias independientes pero alineadas con valores humanos compartidos.
En cuanto al papel específico reservado a las máquinas dentro del proceso democrático, defendió un criterio basado en el tipo problema enfrentado: si es bien definido y tiene suficientes datos disponibles puede delegarse eficazmente a algoritmos; si es ambiguo e incierto —como muchas cuestiones políticas— requiere deliberación humana.
La reflexión incluyó también un experimento mental provocador: ¿qué ocurriría si sustituyéramos urnas electorales por agregadores algorítmicos basados en huellas digitales? Para Innerarity esto sería inaceptable porque esos rastros reflejan nuestro yo fáctico (lo que hacemos), no nuestro yo aspiracional (lo que queremos ser). Gobernar según lo primero supondría renunciar al ideal democrático basado en autogobierno reflexivo.
María González Veracruz coincidió con este planteamiento señalando como prioridad política situar siempre «la tecnología al servicio de las personas». Destacó iniciativas legislativas impulsadas desde España como parte activa del marco europeo para regular usos responsables y transparentes mediante mecanismos auditables públicos —como la Agencia Española Supervisora creada recientemente— sin frenar innovación ni competitividad económica.
Ambos ponentes coincidieron además en identificar carencias educativas críticas frente al avance acelerado digital actual. Según González Veracruz, urge reforzar pensamiento crítico desde edades tempranas hasta formación continua profesional para afrontar retos laborales derivados tanto por destrucción como creación neta ocupacional vinculada a nuevas herramientas tecnológicas avanzadas.
Finalmente se discutieron implicaciones geopolíticas globales derivadas del uso estratégico diferencial entre modelos chino (instrumentalización estatal), estadounidense (mercantilización privada) y europeo (equilibrio jurídico-político-social).
En opinión de Innerarity Europa debe seguir apostando por elevar estándares regulatorios compatibles con derechos fundamentales aunque ello suponga menor velocidad comparativa respecto otros actores internacionales.
