En una era donde la adopción de la Inteligencia Artificial (IA) por parte de las empresas se ha duplicado en los últimos cinco años, las implicancias de la seguridad de la IA han tomado el centro del escenario.
Ascensio Chazarra, líder de Servicios de Ciberseguridad en IBM Consulting, nos trae un detallado artículo que aborda los desafíos y soluciones para establecer modelos de negocio de IA seguros. Los CEOs de hoy enfrentan una presión significativa para acelerar la adopción de la IA generativa debido a una creciente percepción de las posibilidades y beneficios que la IA puede brindar a la sociedad en su conjunto.
Chazarra apunta a cómo la seguridad se mantiene como una incógnita para muchas empresas que son reticentes a abrazar la IA. El reto no solo radica en la protección de los modelos de IA frente a ciberataques, como robo, manipulación y filtración de datos, sino también en la ampliada superficie de ataque que estos modelos introducen. La carrera mundial por liderar en IA ha intensificado la urgencia de abordar esta cuestión crítica.
No obstante, este desafío no carece de solución. Se observa un notable movimiento de crowdsourcing para asegurar la IA, catalizado por iniciativas gubernamentales como la Administración Biden-Harris, la ley CISA y la Ley de Inteligencia Artificial de la Unión Europea. Estas iniciativas han convocado a la comunidad de investigadores, desarrolladores y expertos en seguridad para trabajar colectivamente en mejorar la seguridad, privacidad y cumplimiento normativo en materia de IA.
La seguridad en la IA, según Chazarra, va más allá de proteger solo los modelos y datos. Se trata de una consideración integral que incluye el stack de aplicaciones empresariales en el que se integra la IA, la infraestructura organizacional y la gobernanza a lo largo del ciclo de vida de la IA. Un enfoque integrado en la creación, despliegue y gestión de los proyectos de IA es crucial para garantizar la seguridad, transparencia y ética que respalden las exigencias normativas.
Chazarra también destaca la importancia de la higiene en un stack de aplicaciones empresariales como la primera capa de defensa contra amenazas a los modelos de IA. Asegurar controles de seguridad y privacidad adecuados en la infraestructura de IT es clave, y aquí, la industria ya tiene una ventaja significativa con la experiencia y el conocimiento necesarios para establecer normas óptimas de seguridad.
En el aspecto de los datos y modelos, la transparencia y explicabilidad son esenciales para evitar sesgos y otros problemas. La documentación del origen de los datos y el proceso de preparación son vitales para la confianza y la transparencia, que a su vez pueden ayudar a detectar anomalías en una fase temprana.
Finalmente, Chazarra nos deja una serie de mejores prácticas sugeridas por IBM para preparar a las organizaciones para un despliegue seguro de la IA, entre las que se incluyen la evaluación de las políticas y prácticas de los proveedores, la implementación de controles para el acceso seguro, y la realización de prácticas de modelado de amenazas y codificación segura en el ciclo de vida de desarrollo de la IA.
En un mundo donde la IA continúa evolucionando y encontrando aplicaciones en casi todos los sectores, garantizar su despliegue seguro es imperativo. A medida que avanzamos, la colaboración entre gobiernos, industria y la comunidad científica será fundamental para construir un ecosistema de IA que no solo sea innovador, sino también seguro y confiable.
