Los “puntos ciegos” de la IA abren paso a nuevos riesgos

La incorporación de nuevos sistemas de inteligencia artificial en las empresas supone una importante ampliación de la superficie para potenciales ciberataques. Elia Zaitsev, CTO de CrowdStrike, considera que este nuevo vector de ataque será una de las principales tendencias en el ámbito de la ciberseguridad para el 2024.

Los ciberdelincuentes tendrán los sistemas de IA entre los objetivos de sus ataques. Los sistemas legítimos presentarán sus propias vulnerabilidades susceptibles de ser explotadas. Además, surgirán puntos ciegos para sistemas de protección, debidos al uso no autorizado de herramientas de inteligencia artificial generativa por parte de los propios empleados.

Los responsables de ciberseguridad de las organizaciones deberán tener una visión completa del uso de la IA en el entorno corporativo, tanto a través de los canales oficiales como en los no oficiales. La postura de riesgo tiene que contemplar esta variante y presentar una serie de pautas que puedan garantizar el uso seguro y auditable de esta tecnología, minimizando los riesgos potenciales.

Elia Zaitsev señala que, “después de un año de crecimiento explosivo en los casos de uso y adopción de la IA, los equipos de seguridad aún están aprendiendo en qué consisten las amenazas en torno a la IA y a rastrear las herramientas de IA no autorizadas que los empleados han introducido en sus entornos. Estos puntos ciegos y las nuevas tecnologías abren la puerta a los cibercriminales que buscan infiltrarse en redes corporativas o acceder a datos confidenciales”.