El uso de IA en ciberseguridad es una prioridad para el 75% de las empresas españolas

Si bien están surgiendo nuevos riesgos para la ciberseguridad debido a la proliferación de la IA y la IA generativa (GenIA), estas tecnologías representan un cambio transformador a la hora de reforzar las estrategias de ciberdefensa a largo plazo para predecir, detectar y responder a las amenazas. De hecho, como señala el nuevo informe del Instituto de Investigación de Capgemini, "Nuevas defensas, nuevas amenazas: Qué aportan la IA y la GenIA a la ciberseguridad", dos tercios de las organizaciones están dando prioridad a la IA en sus operaciones de seguridad.

Según el informe, aunque las organizaciones consideran la IA como una tecnología clave para reforzar sus estrategias de seguridad, la GenIA introduce tres grandes áreas de riesgo para las organizaciones: ataques más sofisticados con más adversarios, la expansión de la superficie de ciberataques y un aumento de las vulnerabilidades en todo el ciclo de vida de las soluciones GenIA personalizadas. Estos riesgos también se ven agravados por el uso indebido de la IA y la GenIA por parte de los empleados, lo que puede aumentar el riesgo de filtración de datos.

Riesgos y beneficios de la IA

Casi todas las organizaciones encuestadas (97%) reconocen haber sufrido infracciones o problemas de seguridad relacionados con el uso de GenIA en el último año. La GenIA también conlleva riesgos adicionales, como por ejemplo la creación de alucinaciones, la generación de contenidos sesgados, dañinos o inapropiados, y los prompt injection attacks. Dos de cada tres organizaciones (67%) están preocupadas por la intoxicación de datos y la posible filtración de datos confidenciales a través de los conjuntos de datos utilizados para entrenar los modelos de GenIA.

Además, la capacidad de GenIA para generar contenidos falsos de gran realismo está planteando riesgos adicionales: el 43% de las organizaciones afirmaron haber sufrido pérdidas económicas derivadas del uso de deepfakes. Casi 6 de cada 10 empresas creen que necesitan aumentar su presupuesto de ciberseguridad para reforzar sus sistemas de defensa en consecuencia.

Según el informe, la mayoría de las organizaciones que han pensado en la IA para la ciberseguridad o que ya la utilizan confía en ella para reforzar la seguridad de sus datos, aplicaciones y cloud, debido a la capacidad de la tecnología para analizar rápidamente grandes cantidades de datos, identificar patrones y predecir posibles infracciones. Más del 60% informó de una reducción de al menos el 5% en el tiempo de detección, y casi el 40% señaló que su tiempo de corrección se redujo en un 5% o más tras implantar la IA en sus SOC.

Además, el 61% creen que la IA es esencial para responder eficazmente a las amenazas, ya que les permite aplicar estrategias de seguridad proactivas contra los cada vez más sofisticados ciberdelincuentes. La misma proporción de encuestados prevé que GenIA refuerce las estrategias de defensa proactiva a largo plazo, anticipando una detección más rápida de las amenazas. Más de la mitad de ellos también cree que la tecnología permitirá a los analistas de ciberseguridad concentrarse más en la estrategia para combatir amenazas complejas.