El gobierno del Reino Unido ha anunciado un cambio significativo en su enfoque regulador hacia la inteligencia artificial (IA) al renombrar su Instituto de Seguridad de IA, anteriormente conocido como Instituto de IA Segura, según informa The Register. Este cambio refleja una nueva ambición reguladora centrada en abordar los riesgos importantes asociados con la tecnología, como el uso de IA para desarrollar armas químicas y biológicas, llevar a cabo ciberataques y facilitar delitos como el fraude y el abuso sexual infantil.
El concepto de seguridad en IA, definido por la Brookings Institution como «investigación, estrategias y políticas destinadas a garantizar que estos sistemas sean confiables, alineados con los valores humanos y no causen daños graves», ha perdido protagonismo en los últimos tiempos. Esto se debe a varios factores, como la disolución del equipo de IA Responsable de Meta, la negativa de Apple y Meta a firmar el Pacto de IA de la UE, y la eliminación de las reglas de seguridad de IA de la era Biden por parte de la administración Trump. Además, la competencia de IA de China ha intensificado el interés en una regulación más proscriptiva.
Un cambio hacia la regulación proscriptiva
El gobierno del Reino Unido ha dejado claro que el Instituto de Seguridad de IA no se centrará en temas como el sesgo o la libertad de expresión, sino en comprender los riesgos más serios que plantea la tecnología. Este enfoque busca construir una base científica de evidencia que ayude a los responsables políticos a mantener la seguridad del país a medida que la IA evoluciona. Este cambio de enfoque también refleja un deseo de no obstaculizar el potencial económico de la inversión en IA y las consecuencias laborales asociadas.
Peter Kyle, Secretario de Estado para Ciencia, Innovación y Tecnología, subrayó que los cambios anunciados representan un paso lógico en el desarrollo responsable de la IA, alineado con el Plan de Cambio del gobierno laborista. Este plan incluye la colaboración con Anthropic, una empresa que se ha distinguido por su enfoque en la seguridad, para integrar herramientas de IA en los servicios gubernamentales del Reino Unido.
Colaboración con Anthropic
Anthropic y el Departamento de Ciencia, Innovación y Tecnología del Reino Unido han firmado un Memorando de Entendimiento para desarrollar herramientas de IA que puedan integrarse en los servicios gubernamentales. Dario Amodei, CEO y cofundador de Anthropic, expresó su optimismo sobre cómo el asistente de IA Claude podría ayudar a las agencias gubernamentales del Reino Unido a mejorar los servicios públicos, haciendo la información y los servicios más eficientes y accesibles para los residentes.
La experiencia de Nueva York con la entrega de servicios gubernamentales mediante IA ha sido mixta, como lo demuestra el caso del chatbot MyCity, que proporcionó consejos legales incorrectos. Sin embargo, Anthropic se muestra optimista sobre su tecnología, citando ejemplos de colaboración con agencias gubernamentales en Washington, DC y el Parlamento Europeo.
Impacto económico y social
En Inglaterra, el Consejo del Municipio de Swindon ha implementado una herramienta basada en Claude llamada «Simply Readable», que mejora la accesibilidad de los documentos para personas con discapacidades. Esta herramienta ha generado ahorros financieros significativos, reduciendo el costo de conversión de documentos de £600 a solo 7-10 peniques, lo que permite destinar fondos a otros servicios sociales.
El acuerdo del gobierno del Reino Unido con Anthropic también incluye el uso del recientemente anunciado Índice Económico de la empresa, que utiliza conversaciones anónimas de Claude para estimar el impacto de la IA en los mercados laborales. Este enfoque podría proporcionar información valiosa sobre cómo la IA está afectando el empleo y la economía en general.
La reorientación del Instituto de Seguridad de IA del Reino Unido hacia la gestión de riesgos serios representa un cambio estratégico en la política de IA del país. Al centrarse en los riesgos de seguridad más críticos, el gobierno busca equilibrar la innovación tecnológica con la protección de la sociedad, asegurando que la IA se desarrolle de manera que beneficie tanto a la economía como a la seguridad pública.
