Los deep fakes con IA y los ataques a los LLM ganan peso en el panorama de amenazas
- Endpoint
En 2025, los delincuentes se apoyarán cada vez más en la IA para elegir el mejor momento para lanzar sus ataques y el método más adecuado para hacerlo. La computación cuántica también asoma en el horizonte como nueva amenaza, mientras que la figura del responsable de cumplimiento cobrará relevancia.
Un año más, el equipo del Security Lab de Hornetsecurity ha analizado la situación del sector para estudiar las tendencias de ataque que habrá que tener en cuenta en 2025 y ayudar a los negocios a adelantarse a las amenazas y entender los posibles cambios que se darán en la industria. En ese sentido, Daniel Hofmann, CEO de Hornetsecurity, señala que, “por ejemplo, los dispositivos IoT siguen siendo el eslabón más débil de las redes empresariales: sólo en los cinco primeros meses de 2024 los ataques a estos dispositivos crecieron un 107% en comparación con el mismo período de 2023”.
La compañía identificado las siguientes tendencias de ciberseguridad que marcarán el día a día de las empresas este año:
- Incremento de los deep fakes con IA. La creación de vídeos y audios tan realistas que parezcan personas reales permitirá elaborar mensajes de phishing o tendencias públicas mucho más convincentes. El resultado será claro: una pérdida de confianza en lo que vemos y oímos en internet.
- Un nuevo frente de batalla: los ataques a los LLM. Estos modelos de lenguaje son vulnerables a ciertos tipos de ataques, como el robo de datos o los llamados jailbreaks (manipulación de los datos del modelo para confundirlo). Estas brechas pondrán en riesgo no solo la seguridad, sino también la confianza que depositamos en estos sistemas.
- La figura del responsable de cumplimiento dentro de las empresas cobrará más relevancia que nunca. Su papel será clave para gestionar los nuevos marcos regulatorios (NIS2, DORA, CRA, KRITIS, etc.), ya que implementarlos exigirá un esfuerzo y unos recursos considerables.
- La nueva amenaza que asoma en el horizonte: la computación cuántica. Los expertos cifran en diez años el tiempo necesario para que veamos a ordenador cuántico romper la criptografía actual (al día en que estas máquinas estén operativas se le llama el “Q-Day”).
- Aunque en 2024 hemos visto que las interfaces de chat con IA y otras herramientas automatizadas han resultado ser todavía más útiles para los defensores que para los atacantes, en 2025, los delincuentes se apoyarán cada vez más en la IA para elegir el mejor momento para lanzar sus ataques y el método más adecuado para hacerlo. Esta tecnología analizará los datos y decidirá cuándo dar el golpe perfecto.
