Cinco claves para proteger los desarrollos de IA generativa

La inteligencia artificial generativa está aportando potentes casos de uso en el entorno corporativo, más allá de la productividad, pero también supone un quebradero de cabeza para los CISO. Modelos como el de DeepSeek han recibido especial atención de las empresas de ciberseguridad, pero todos los desarrollos de IA generativa pueden presentar retos de ciberseguridad.

En este contexto, Yuval Moss, vicepresidente de soluciones para socios estratégicos globales de CyberArk, explica los cinco controles de la infraestructura de inteligencia artificial generativa que considera esenciales para su protección:

• Protección de API y modelos de IA: Las interfaces de programación y los modelos de aprendizaje profundo son puertas de entrada a los sistemas GenAI y requieren medidas de seguridad avanzadas para evitar ataques de inyección o filtración de datos.
• Seguridad de datos empresariales: Las empresas entrenan sus modelos GenAI con datos internos que pueden contener información sensible. Protegerlos es clave para evitar accesos no autorizados.
• Entornos de implementación seguros: Ya sea en la nube o en instalaciones propias, la seguridad de la identidad de los entornos donde se ejecutan las aplicaciones GenAI es fundamental para prevenir brechas.
• Implementar privilegios permanentes cero (ZSP) ayuda a garantizar que los usuarios solo puedan acceder a los datos y asumir funciones específicas cuando sea necesario. En áreas donde ZSP no es una opción, se deberá implementar un acceso con privilegios mínimos para reducir la superficie de ataque, en caso de que el usuario se vea comprometido.
• Monitorización y auditoría centralizadas: La supervisión continua de todas las identidades, humanas y de máquina, permite detectar y mitigar amenazas en tiempo real.