Los riesgos que puede conllevar la IA agéntica

CyberArk ha puesto sobre la mesa las cinco grandes amenazas para la ciberseguridad que pueden suponer los despliegues de agentes de IA, a medida que “se integran en el día a día de las organizaciones y se convierten en una nueva interfaz para interactuar con servicios y dato”. La compañía considera que su adopción es casi inevitable, pero hacerla demasiado rápido, sin los necesarios estándares de seguridad y cumplimiento, abre nuevos vectores de riesgo.

El primero de ellos está asociado al propio uso intensivo de esta IA, que aumenta la productividad al integrarse “desde la estación de trabajo, el navegador o apps SaaS” y convierte a los usuarios en gestores. Si además esta implementación se hace en la sombra, sin control ni supervisión, se abre la puerta a los riesgos de una “shadow AI” más autónoma y en segundo plano.

La mejora de la productividad de los desarrolladores los convierte en perfiles de alto riesgo. Si su identidad es comprometida, “el riesgo aumenta drásticamente, convirtiéndola en una de las identidades más poderosas de la empresa”. También son puntos críticos de vulnerabilidad las personas que intervienen en la supervisión de los agentes, fundamentales para validar las decisiones de la IA y guiar su aprendizaje.

Si hasta ahora los puntos críticos de la IA agéntica se centraban más bien en la intervención humana, los propios agentes de IA plantean un desafío diferente. CyberArk cita el cálculo de Jensen Huang para NVIDIA, quien estima que en la actualidad las identidades de máquina ya superan ampliamente a las humanas y se podrían disparar a más de 2.000 a 1. El nuevo reto es la protección de una gran volumen de identidades de máquina.