El malware será más peligroso y eficiente con la IA Generativa

Recomendados.... ¿Cómo combatir la complejidad de los costes con FinOps? Whitepaper Tres razones para construir tu infraestructura con AWS Leer Cómo proporcionar a tu organización la visibilidad que el negocio necesita Informe

Fortalecer el edge y prepararse para ataques impulsados por IA resulta fundamental para proteger el futuro digital de las organizaciones, tal y como ha explicado José Carlos Huertas, senior solutions engineer en F5, como parte de las predicciones en materia de ciberseguridad de la compañía para el año 2024. Según comenta, “las organizaciones tienen la necesidad de una adaptación e innovación continuas para poder defenderse de amenazas que evolucionan de forma constante”.

Los grupos de ciberdelincuentes aprovecharán la IA generativa para traducir mensajes de las víctimas y responder a los mismos en diferentes idiomas de forma correcta, con lo que, utilizando la modalidad de phishing as-a-service, los grupos del cibercrimen organizado podrán potenciar sus ataques tanto en tamaño como en eficacia.

Las estrategias de ataque generadas por cuentas falsas, que pueden incluir fraude, relleno de credenciales, desinformación o la manipulación de los mercados, pueden incrementar notablemente la productividad de los ciberdelincuentes al no tener que hacer ningún tipo de esfuerzo por igualar el realismo humano.

Además, las herramientas de IA generativa tienen el potencial de cambiar significativamente la manera en que se llevan a cabo las operaciones de desinformación, creando de forma automatizada contenido falso o campañas de desinformación dirigidas a un objetivo específico.

Por otra parte, se espera que la actividad hacktivista relacionada con los principales acontecimientos globales crezca a medida que la capacidad de computación siga volviéndose más asequible y fácil de usar.

De igual forma, los LLM se usarán para dirigir las secuencias de procedimientos durante ataques en vivo, permitiendo a los atacantes reaccionar ante las defensas del objetivo. Al igual que con las filtraciones de la nube, el impacto de las filtraciones en LLM es potencialmente enorme, debido a la gran cantidad de datos involucrados.

Asimismo, los desarrolladores recurren cada vez más a la IA generativa para escribir código o comprobar si hay errores. Pero sin las protecciones adecuadas, los LLM van a crear una avalancha de código vulnerable difícil de proteger.

Más allá de la IA, la manipulación física, las vulnerabilidades de software y API, así como los desafíos de gestión son riesgos que se agravan en un contexto de edge.

Además, la creciente complejidad de los entornos de TI, particularmente en las arquitecturas híbridas y cloud, hará que resulte más complicado monitorizar y detectar ataques living-off-the-land (LOTL), que utilizan software legítimo presente en los sistemas de las víctimas para introducirse en la red corporativa.

Por último, desde F5 destacan que existe una creciente preocupación sobre el efecto que las tendencias de arquitectura de seguridad tendrán sobre la línea de pobreza en materia de seguridad, que se define como el nivel de conocimiento, autoridad y, sobre todo, de presupuesto necesarios para lograr el mínimo indispensable de controles de seguridad.