La reciente AI Action Summit celebrada en París concluyó con una declaración que buscaba establecer políticas para garantizar que la inteligencia artificial (IA) sea «abierta, inclusiva, transparente, ética, segura y confiable». Sin embargo, la ausencia de firmas de países clave como el Reino Unido y Estados Unidos ha generado críticas sobre la efectividad y el alcance de las medidas propuestas. Según Euronews Next, expertos presentes en el evento expresaron su decepción, calificando la cumbre como una «oportunidad perdida» para abordar los riesgos inherentes a la IA.
Preocupaciones sobre los riesgos y desigualdades
David Leslie, director de investigación en ética e innovación responsable en The Alan Turing Institute, señaló que la declaración no aborda adecuadamente los riesgos y daños reales asociados con la IA, tales como el sesgo, la ciberseguridad y la privacidad de los datos. Leslie enfatizó la necesidad de acciones que no solo impulsen el crecimiento económico, sino que también mitiguen los riesgos existentes que han surgido con la expansión de los sistemas de IA generados por usuarios.
La cumbre se desarrolló en un contexto de intensa competencia global, con empresas tecnológicas lanzando modelos de IA a un ritmo acelerado. Un ejemplo reciente es la compañía china DeepSeek, que desafió el dominio de las empresas occidentales con modelos de IA más costosos de entrenar. Mientras tanto, gobiernos como el de Estados Unidos, bajo la nueva administración de Trump, han eliminado iniciativas previas que priorizaban la seguridad de la IA, considerándolas obstáculos para la innovación.
Desigualdades en el ecosistema tecnológico
Leslie también destacó la falta de atención a las desigualdades en el ecosistema tecnológico, que representan barreras reales para la innovación inclusiva y equitativa. Argumentó que se necesita una estructura global equitativa para el comercio entre grandes empresas tecnológicas y países pequeños y medianos, especialmente en el Sur Global, así como un acceso equitativo a infraestructuras digitales.
Dario Amodei, CEO y cofundador de Anthropic, expresó su decepción por la falta de atención a los riesgos de la inteligencia artificial general (AGI), calificando también la cumbre como una «oportunidad perdida». Amodei subrayó la necesidad de un enfoque más urgente en temas críticos, dada la rapidez con la que avanza la tecnología.
Un enfoque comercial para la IA
A diferencia de cumbres anteriores en el Reino Unido y Corea del Sur, que se centraron más en los riesgos potenciales de la IA, Francia dejó claro que está abierta a los negocios. El evento en París tuvo un ambiente más parecido a una feria tecnológica, con eventos corporativos y un DJ cerrando el primer día en el Grand Palais. El presidente francés Emmanuel Macron enfatizó la disponibilidad de infraestructura eléctrica para impulsar la innovación en IA.
Jessica Galissaire, director de estudios y asociaciones en el think tank francés Renaissance Numerique, criticó la declaración final por su falta de sustancia, señalando que términos como «sostenible» e «inclusivo» carecen de significado sin un entendimiento compartido. Galissaire, sin embargo, se mostró optimista sobre el compromiso ambiental y la propuesta de un observatorio para evaluar el impacto energético de la IA.
Max Tegmark, físico del MIT y fundador del Future of Life Institute, también expresó su decepción, calificando la declaración como débil y carente de medidas para abordar las amenazas de seguridad. Tegmark instó a que la próxima cumbre, que se celebrará en India, reinicie la conversación y fomente acciones decisivas para garantizar una IA segura y controlable.
La cumbre de París ha dejado un sabor agridulce entre los expertos, quienes esperan que futuros encuentros aborden de manera más efectiva los desafíos y oportunidades que presenta la inteligencia artificial.
