“La combinación de ciberseguridad e IA definirá el panorama de la lucha contra las ciberamenazas”, Ignacio Franzoni, Netskope

Si bien ya se han visto ciberataques que cambiaban de forma dinámica para intentar eludir su detección, por el momento la IA utilizada por los ciberdelincuentes está generando un mayor volumen de amenazas y phishing más convincente. ¿Considera que en algún momento serán capaces de dar el salto hacia ataques más inteligentes y adaptables?

Sin duda, considero que la evolución de la IA en manos de los ciberdelincuentes conduce inevitablemente a ataques más inteligentes y adaptables. Aunque actualmente estamos siendo testigos de un aumento significativo en la cantidad y la sofisticación del phishing gracias a la IA generativa, este es probablemente solo el comienzo. Los modelos de lenguaje avanzados pueden aprender y perfeccionar sus tácticas de manera autónoma, analizando el éxito de diferentes enfoques y ajustando sus métodos en tiempo real para maximizar la efectividad.

En el futuro, podríamos ver ataques que se adapten dinámicamente al perfil de la víctima, a sus patrones de comportamiento en línea e incluso a las defensas de seguridad específicas que detectan. Imagina un ataque de ingeniería social que adapta su narrativa en función de las respuestas de la víctima en tiempo real. La capacidad de la IA para procesar grandes cantidades de datos y aprender de ellos permitirá a los ciberdelincuentes crear ataques mucho más personalizados, persistentes y difíciles de detectar, lo que supone un desafío significativo para la ciberseguridad actual. La clave estará en que el sector de la ciberseguridad también avance en el uso de la IA para anticipar y contrarrestar estas amenazas cada vez más sofisticadas.

 

Con la inteligencia artificial generativa hemos pasado de hablar de asistentes a hablar de agentes. Aunque no sean usos excluyentes, ¿qué supone la entrada en acción de los agentes?

La transición de «asistentes» a «agentes», impulsada por la inteligencia artificial generativa, supone un cambio fundamental en la forma en que interactuamos con la tecnología. Mientras que los asistentes tradicionales responden a comandos específicos y realizan tareas predefinidas, los agentes exhiben una mayor autonomía, proactividad y capacidad de toma de decisiones. La incorporación de los agentes implica que la IA puede iniciar tareas, establecer objetivos y trabajar para alcanzarlos de manera más independiente, aprendiendo y adaptándose en el proceso.

Esto tiene profundas implicaciones en diversos campos. En el ámbito empresarial, los agentes de IA podrían gestionar cadenas de suministro complejas, optimizar procesos operativos o interactuar con clientes de manera más personalizada y resolutiva. En el ámbito personal, podrían encargarse de planificar horarios, gestionar finanzas o incluso encontrar información relevante. La diferencia clave radica en la iniciativa y la capacidad de los agentes para operar de forma más autónoma, lo que libera a las personas de tareas repetitivas y permite una colaboración más estratégica con la IA. Si bien los asistentes seguirán siendo valiosos para tareas específicas, la llegada de los agentes abre un nuevo paradigma de interacción entre humanos y máquinas, en el que la IA se convierte en un verdadero socio proactivo.

 

¿Qué tipo de inteligencia artificial utilizan en sus soluciones? ¿En qué ámbito es más útil cada una de ellas?

En nuestras soluciones de ciberseguridad, combinamos de manera estratégica inteligencia artificial generativa (GenAI), aprendizaje automático (machine learning) y aprendizaje profundo (deep learning), aprovechando las fortalezas únicas de cada enfoque para abordar diferentes aspectos de las amenazas cibernéticas.

• El machine learning es fundamental para detectar anomalías y patrones sospechosos en grandes volúmenes de datos. Se utiliza para entrenar modelos que pueden identificar comportamientos maliciosos basándose en datos históricos, como la detección de malware conocido o actividades inusuales en la red. Su utilidad radica en la capacidad de automatizar la identificación de amenazas conocidas y sus variantes.
• El deep learning, una rama más avanzada del machine learning, es especialmente útil para analizar datos complejos y no estructurados, como el comportamiento de archivos ejecutables, la identificación de patrones sofisticados en el tráfico de red o la comprensión del lenguaje natural en ataques de phishing. Sus redes neuronales profundas pueden aprender representaciones jerárquicas de los datos, lo que las hace muy eficaces para detectar nuevas y evasivas amenazas.
• La GenAI, si bien es una tecnología más reciente en el ámbito de la ciberseguridad, tiene un gran potencial. La utilizamos principalmente para generar datos sintéticos con los que entrenar modelos de detección, crear escenarios de ataque realistas para pruebas de seguridad y, en el futuro, generar contramedidas automatizadas o informes de amenazas más detallados y comprensibles. Cada tipo de IA desempeña un papel crucial en nuestra estrategia de ciberseguridad multicapa, que se complementa para ofrecer una protección más robusta y adaptable.

 

¿Qué soluciones de ciberseguridad de su compañía se basan en inteligencia artificial?

Nuestra compañía integra la inteligencia artificial en una amplia gama de soluciones de ciberseguridad para mejorar significativamente la eficacia en la detección, prevención y respuesta a las amenazas.

En nuestra estrategia de protección de la información, la IA, incluidas la inteligencia artificial (machine learning) y el deep learning, nos ayuda a clasificar la información en tiempo real, tanto de datos estructurados como no estructurados, con una fiabilidad muy alta. Esto supone una mejora en la gobernanza de los datos.

Además, nuestras soluciones de análisis de comportamiento de usuarios y entidades (UEBA) emplean machine learning para establecer líneas de comportamiento normal y detectar desviaciones que podrían indicar una amenaza interna o una cuenta comprometida. La IA también juega un papel crucial en nuestras herramientas de inteligencia de amenazas, ya que analizan grandes cantidades de información para identificar tendencias, predecir posibles ataques y proporcionar información contextual valiosa a nuestros clientes.

 

¿Qué evolución espera del binomio ciberseguridad-IA?

Espero una evolución simbiótica y cada vez más intrincada de la combinación de ciberseguridad e IA. En un futuro próximo, veremos una adopción aún más generalizada de la IA en todos los niveles de la seguridad cibernética, desde la prevención hasta la respuesta a incidentes. La IA se convertirá en un componente esencial para automatizar tareas repetitivas, analizar grandes volúmenes de datos con mayor rapidez y precisión, y para identificar amenazas cada vez más sofisticadas y evasivas que escapan a las defensas tradicionales.

Por otro lado, la IA también empoderará a los ciberdelincuentes, como hemos discutido, lo que generará una constante «carrera armamentística» tecnológica. Esto impulsará la necesidad de una IA defensiva más avanzada, capaz de anticipar y contrarrestar las tácticas ofensivas basadas en IA. Veremos un mayor enfoque en el desarrollo de modelos de IA más robustos, explicables y resistentes a ciberataques.

Creo que la inteligencia artificial generativa desempeñará un papel cada vez más importante en ambos lados de esta ecuación, ya que permitirá crear ataques más convincentes y generar contramedidas más adaptativas y personalizadas. La colaboración entre humanos e IA será crucial; los expertos en ciberseguridad se apoyarán en las capacidades analíticas y de automatización de la IA, pero su juicio y su conocimiento del contexto seguirán siendo esenciales para abordar las amenazas más complejas y novedosas. En última instancia, la evolución de la combinación de ciberseguridad e IA definirá el panorama de la lucha contra las amenazas digitales en los próximos años.