Con el auge de la inteligencia artificial (IA) como catalizador de la transformación digital en las empresas, Cisco ha lanzado Cisco AI Defense , un servicio innovador diseñado para mitigar riesgos en el desarrollo y uso de aplicaciones de IA. Integrado en la plataforma unificada Cisco Security Cloud, AI Defense se posiciona como una herramienta estratégica para empresas que buscan implementar IA sin comprometer la seguridad ni la privacidad.
“Al adoptar la IA, los líderes empresariales y tecnológicos no pueden permitirse sacrificar la seguridad en favor de la velocidad”, afirma Jeetu Patel, Vicepresidente Ejecutivo y Director de Productos en Cisco. “Integrada en la estructura de la red, Cisco AI Defense combina una capacidad única para detectar y proteger a las empresas frente a amenazas al desarrollar y acceder a aplicaciones de IA, y sin perder celeridad”.
Según el AI Readiness Index de Cisco, solo un 29% de las empresas a nivel global se consideran preparadas para prevenir manipulaciones o vulnerabilidades en sistemas basados en IA. Este contexto pone de manifiesto la necesidad de soluciones específicas como AI Defense, que combina validación de modelos, protección de datos y visibilidad integral para proporcionar un entorno seguro y confiable.
Desafíos de seguridad en entornos de IA
La adopción masiva de la IA trae consigo nuevos riesgos, tanto técnicos como operativos, que requieren soluciones avanzadas para garantizar la integridad de los modelos y los datos. Entre los principales desafíos se encuentran las vulnerabilidades en los grandes modelos de lenguaje (LLMs) y otras aplicaciones de IA, pues son propensos a ataques como la inyección de prompts maliciosos, la manipulación de datos de entrenamiento o comportamientos inesperados que podrían comprometer la seguridad.
También es determinante el riesgo de fuga de información confidencial, ya que la interacción de empleados con herramientas de IA externas puede exponer datos sensibles y afectar la reputación y la economía de las organizaciones. A esto se suma la heterogeneidad de entornos, que hace complejo aplicar políticas de seguridad coherentes cuando se trabaja con múltiples plataformas y aplicaciones.
Ante esta situación, Cisco AI Defense ofrece soluciones a varios de estos problemas: previene la filtración de datos sensibles, frena comportamientos erráticos en modelos no deterministas y bloquea ataques como el prompt injection, el jailbreaking o el training data poisoning.
Además, responde a la necesidad de validar de forma continua los modelos de IA, eliminando largos procesos de pruebas manuales y reduciendo la verificación de semanas a segundos. Con su enfoque de políticas y guardrails unificados, también aborda la complejidad de un ecosistema compuesto por diferentes nubes y modelos de IA, garantizando una estrategia de seguridad más uniforme y robusta.
Características de Cisco AI Defense
AI Defense aborda estos retos con un enfoque integral, destacando las siguientes capacidades:
1. Validación y seguridad de modelos
- Red Teaming automatizado: AI Defense simula ataques para identificar debilidades en los modelos de IA. Este proceso, que antes requería semanas de análisis manual, se realiza ahora en cuestión de minutos.
- Pruebas avanzadas: Más de 200 categorías de tests de seguridad y confiabilidad evalúan continuamente los modelos para identificar y mitigar vulnerabilidades.
- Validación continua: Los modelos se someten a revisiones constantes para adaptarse a nuevos riesgos, garantizando un comportamiento seguro y predecible.
2. Protección de datos y aplicaciones
- Visibilidad total: Detecta aplicaciones de IA utilizadas dentro de la organización, diferenciando entre herramientas autorizadas y no autorizadas.
- Control de acceso: Establece políticas que limitan el uso de aplicaciones externas y protegen datos sensibles frente a posibles fugas.
- Prevención en tiempo real: AI Defense bloquea intentos de manipulación como inyección de prompts o intentos de extracción de datos, actuando directamente en la red para detener las amenazas.
3. Integración con la infraestructura de Cisco
- Gestión centralizada: La solución se integra plenamente en Cisco Security Cloud, ofreciendo un único panel de control para monitorizar y gestionar la seguridad.
- Arquitectura hiperdistribuida: La protección se aplica en múltiples puntos de la red, desde servidores y switches hasta nubes públicas y privadas, garantizando una cobertura total.
- Colaboración entre equipos: Cisco Talos y Robust Intelligence aportan investigación y tecnología de vanguardia para mantener la solución actualizada frente a nuevas amenazas.
Beneficios para las organizaciones
Las capacidades avanzadas de Cisco AI Defense se traducen en múltiples ventajas para las empresas:
- Confianza y rapidez de adopción: Al resolver dudas de seguridad y cumplimiento, AI Defense permite a las empresas implementar con más tranquilidad aplicaciones de IA y aprovecharlas antes que la competencia.
- Ahorro de tiempo y recursos: Evita tener que hacer validaciones manuales y red teaming prolongados. Las comprobaciones son automáticas y continuas, liberando recursos técnicos.
- Menor riesgo de filtraciones: Políticas y guardrails evitan la exposición de datos clasificados, reduciendo los costos y daños reputacionales por fuga de información.
- Gestión centralizada: Al integrarse en la plataforma de Cisco, no se requiere desplegar ni gestionar multitud de productos adicionales. Todo se controla desde la misma consola.
- Protección dinámica y escalable: AI Defense evoluciona según aparezcan nuevas amenazas o cambien los modelos, manteniendo la seguridad al día sin ralentizar el desarrollo.
Un movimiento estratégico para Cisco
La incorporación de AI Defense amplía el portafolio de Cisco en el ámbito de la ciberseguridad, con soluciones diseñadas para abordar los retos específicos asociados a la inteligencia artificial.
Esta solución se integra dentro de Cisco Security Cloud, con el objetivo de facilitar un enfoque unificado en la gestión de la seguridad, evitando el uso de herramientas fragmentadas. La inclusión de funcionalidades centradas en la inteligencia artificial responde a la creciente relevancia del mercado de “AI safety & security” en un contexto de aumento en el uso de aplicaciones basadas en IA.
Por otra parte, la reciente adquisición de Robust Intelligence y las colaboraciones estratégicas con entidades como Splunk, MITRE y NIST reflejan un interés por desarrollar estándares y tecnologías que permitan afrontar los desafíos de seguridad derivados de la inteligencia artificial.
Según Kent Noyes, Director Global de IA e Innovación Cibernética en World Wide Technology, “la adopción de la IA expone a las empresas a nuevos riesgos que las soluciones de ciberseguridad tradicionales no abordan. Cisco AI Defense ofrece una visibilidad integral de los activos de IA de una organización y protección frente a amenazas en constante evolución”.
El enfoque de Cisco en este ámbito se enmarca en una estrategia que busca adaptarse a las necesidades de seguridad en un entorno tecnológico cada vez más complejo, donde la inteligencia artificial desempeña un papel central.
Disponibilidad y próximas iniciativas
La versión inicial de Cisco AI Defense estará disponible a partir de marzo de 2025, con la posibilidad de que los clientes se registren para acceso temprano. Paralelamente, Cisco organizará eventos y mesas redondas con líderes de la industria para debatir sobre los retos de seguridad en la adopción de IA.
