En un documento de política publicado recientemente, Eric Schmidt, ex CEO de Google, junto con Alexandr Wang, CEO de Scale AI, y Dan Hendrycks, director del Center for AI Safety, se muestran contrarios a la propuesta de desarrollar un programa respaldado por el gobierno estadounidense para lograr la Inteligencia Artificial General (AGI) de manera similar al Proyecto Manhattan. Este informe, titulado Superintelligence Strategy, sostiene que tal enfoque podría provocar represalias geopolíticas significativas, especialmente por parte de China.
Contexto del debate sobre la AGI
El desarrollo de sistemas de inteligencia artificial con capacidades superiores a las humanas, conocidos como AGI, es un tema central en las estrategias tecnológicas y de defensa de varias potencias mundiales. En los últimos meses, líderes políticos y empresariales estadounidenses han promovido la idea de un esfuerzo gubernamental masivo para liderar esta tecnología frente a China. Este enfoque ha sido comparado con el Proyecto Manhattan, el programa secreto que desarrolló la bomba atómica en la década de 1940.
Algunos defensores de esta estrategia argumentan que dominar la AGI primero garantizaría el liderazgo global de EE.UU. en tecnología y defensa. Sin embargo, Schmidt y sus coautores advierten que una carrera unilateral hacia la AGI podría desestabilizar las relaciones internacionales y desencadenar una respuesta agresiva por parte de otras naciones.
Riesgos geopolíticos y tecnológicos
Una nueva forma de disuasión: Mutual Assured AI Malfunction (MAIM)
El informe introduce el concepto de Mutual Assured AI Malfunction (MAIM), una estrategia en la que los gobiernos podrían desarrollar capacidades para desactivar proyectos de IA considerados peligrosos antes de que se conviertan en amenazas. Este enfoque recuerda a la doctrina clásica de Destrucción Mutua Asegurada (MAD) aplicada a las armas nucleares durante la Guerra Fría.
Los autores argumentan que intentar monopolizar la superinteligencia artificial podría conducir a represalias cibernéticas o incluso conflictos internacionales. “Un Proyecto Manhattan para la AGI asume que los rivales aceptarán un desequilibrio permanente o el riesgo existencial sin actuar para evitarlo”, escriben Schmidt y sus colegas.
Peligros del dominio exclusivo sobre la AGI
Schmidt y sus coautores advierten que si EE.UU. busca dominar exclusivamente la AGI, otras naciones podrían interpretar este movimiento como una amenaza existencial. En respuesta, podrían lanzar ofensivas cibernéticas o incluso acelerar sus propios programas militares basados en IA.
Un ejemplo relevante es el uso actual de IA por parte del Pentágono para optimizar su “cadena de destrucción” militar, lo que demuestra cómo los sistemas avanzados ya están influyendo directamente en estrategias bélicas.
Estrategia alternativa: Defensa en lugar de competencia agresiva
Diversas perspectivas sobre el desarrollo de la IA
El documento identifica dos posturas predominantes en el debate sobre la regulación y desarrollo de IA:
- Los “doomers”: creen que el desarrollo incontrolado de IA conducirá inevitablemente a resultados catastróficos y abogan por una desaceleración global.
- Los “ostriches”: sostienen que se debe avanzar rápidamente en la IA confiando en que cualquier problema futuro se resolverá sobre la marcha.
Frente a estas dos posturas extremas, Schmidt y su equipo proponen una tercera vía: una política equilibrada que priorice medidas defensivas sin caer en un frenesí competitivo.
Restricciones tecnológicas y ciberseguridad
El informe recomienda que EE.UU. refuerce su arsenal cibernético para contrarrestar proyectos extranjeros potencialmente peligrosos en lugar de centrarse únicamente en ganar la carrera hacia la superinteligencia. Esto incluye:
- Ampliar las capacidades ofensivas en ciberseguridad para desactivar proyectos hostiles antes de que representen una amenaza.
- Restringir el acceso a chips avanzados y modelos abiertos de IA a posibles adversarios estratégicos.
- Implementar mecanismos internacionales para supervisar el desarrollo responsable de sistemas AGI.
Implicaciones futuras para el sector tecnológico
A medida que EE.UU. define su enfoque respecto a la AGI, las decisiones tomadas afectarán no solo a las relaciones internacionales sino también al ecosistema tecnológico global. Si bien muchos actores empresariales han abogado por una aceleración del desarrollo, este informe sugiere que adoptar una postura más defensiva podría evitar conflictos innecesarios y garantizar un desarrollo más seguro.
Dado el creciente papel estratégico de la IA en sectores clave como defensa, sanidad e industria, las empresas tecnológicas deberán adaptarse a posibles restricciones regulatorias derivadas del nuevo enfoque planteado por Schmidt y sus coautores.
Relevancia para empresarios y líderes tecnológicos
Para empresarios y directivos del sector tecnológico español, este debate es crucial, ya que marca tendencias regulatorias globales que podrían influir en futuras normativas europeas sobre inteligencia artificial avanzada. La postura expresada por Schmidt et al. refuerza la importancia de equilibrar innovación con seguridad estratégica, algo particularmente relevante en mercados altamente regulados como el europeo.
