La inteligencia artificial (IA) y, particularmente, la IA generativa (Gen IA), están redibujando el panorama de la ciberseguridad en organizaciones de múltiples sectores, de acuerdo con el informe Nuevas defensas, nuevas amenazas: Qué aportan la IA y la Gen IA a la ciberseguridad del Instituto de Investigación de Capgemini.
La adopción de estas tecnologías, aunque plantea riesgos adicionales, se está posicionando como una estrategia fundamental para optimizar la protección contra ataques cibernéticos, permitiendo a las empresas prever, detectar y mitigar amenazas de manera más efectiva.
El informe destaca que dos tercios de las empresas encuestadas están priorizando la incorporación de IA en sus operaciones de seguridad. Sin embargo, el uso creciente de Gen IA también amplía las vulnerabilidades: ataques más sofisticados, aumento de la superficie de ciberataques y mayor exposición a riesgos a lo largo del ciclo de vida de las soluciones personalizadas de Gen IA. Además, el informe subraya que la manipulación inadecuada de estas herramientas por parte de los empleados incrementa significativamente el riesgo de filtración de datos sensibles.
Riesgos amplificados por la IA generativa
El estudio revela que el 97% de las organizaciones ha experimentado en el último año algún incidente de seguridad relacionado con Gen IA. Estos problemas incluyen la generación de contenidos engañosos, sesgados o inapropiados, así como “prompt injection attacks” que afectan directamente a la calidad y veracidad de los datos generados. Dos de cada tres empresas expresan su preocupación por la intoxicación de datos y el riesgo de exposición de información confidencial durante el entrenamiento de modelos Gen IA.
La capacidad de la Gen IA para crear contenidos falsos altamente realistas ha añadido otro nivel de riesgo. Más del 43% de las organizaciones encuestadas afirmaron haber sufrido pérdidas económicas debido al uso de deepfakes, lo que pone de manifiesto el impacto directo de la tecnología en la integridad y la percepción pública de las empresas.
Ante estos desafíos, cerca del 60% de las empresas considera esencial incrementar su inversión en ciberseguridad para robustecer sus defensas y adaptarse al cambiante panorama de amenazas impulsado por la IA generativa.
IA y Gen IA como herramientas clave de respuesta y detección de ataques
Pese a los riesgos, el estudio refleja una confianza creciente en el uso de IA para optimizar la ciberseguridad. De las 1.000 organizaciones consultadas que ya emplean IA o la consideran para su ciberseguridad, una amplia mayoría ha observado mejoras en la protección de datos, aplicaciones y servicios en la nube.
La capacidad de la IA para analizar grandes volúmenes de datos y detectar patrones ha permitido a más del 60% de estas empresas reducir al menos un 5% su tiempo de detección de amenazas. Asimismo, cerca del 40% informó de una disminución de hasta el 5% en su tiempo de corrección tras integrar IA en sus centros de operaciones de seguridad (SOC).
La IA no solo permite una detección más rápida, sino que también es valorada como un componente esencial para responder con eficacia a las amenazas. Tres de cada cinco organizaciones confían en que el uso de IA les capacita para implementar estrategias de seguridad proactivas frente a ciberdelincuentes que emplean técnicas cada vez más sofisticadas.
La misma proporción anticipa que la IA generativa fortalecerá a largo plazo las estrategias defensivas, permitiendo una detección y respuesta más tempranas ante las amenazas emergentes. Además, más de la mitad de los encuestados considera que esta tecnología permitirá a los equipos de ciberseguridad centrarse más en la estrategia para contrarrestar amenazas complejas, al reducir las tareas operativas rutinarias.
El equilibrio entre riesgos y beneficios
Marco Perira, Director Global de Ciberseguridad, Cloud y Servicios de Infraestructura de Capgemini, advierte que “el uso de IA y Gen IA ha demostrado hasta ahora ser un arma de doble filo. Si bien introduce riesgos sin precedentes, las organizaciones confían cada vez más en la IA para una detección más rápida y precisa de los problemas cibernéticos”. Perira subraya la necesidad de que las organizaciones establezcan un control riguroso sobre el uso de IA, asegurando que este represente una ventaja tangible frente a la sofisticación en evolución de las amenazas cibernéticas.
Para ello, el informe recomienda que las empresas no solo adopten herramientas basadas en IA, sino que además desarrollen una infraestructura de gestión de datos sólida, definan marcos éticos para el uso de Gen IA y promuevan programas de formación y concienciación en ciberseguridad para todos los empleados. Esta combinación de factores resulta crucial para maximizar el potencial de la IA en la defensa contra los ciberataques y para mitigar las amenazas que ella misma puede representar.
