Freno al mal uso accidental de la IA y al abuso externo

La organización Trend Micro Incorporated ha presentado una funcionalidad adicional impulsada por IA en su plataforma para asegurar el uso organizativo de la inteligencia artificial, y gestionar mejor los riesgos asociados a la adopción masiva de nuevas herramientas de IA. 

Así, los nuevos elementos integrados en Trend Vision One - Zero Trust Secure Access (ZTSA) se centran en garantizar la protección de los servicios de IA, así como a las personas que los utilizan en toda la empresa. Asimismo, Trend Vision One ofrece gestión centralizada del acceso y uso de las aplicaciones de IA por parte de los empleados, haciendo un especial hincapié en los siguientes aspectos:

- Inspección inmediata para evitar fugas de datos e inyecciones maliciosas.
- Filtrado de contenidos para cumplir los requisitos de cumplimiento.
- Defensa contra ataques de grandes modelos de lenguaje (LLM).

Basándose en el uso de la inteligencia artificial para proteger mejor a los clientes, las nuevas funciones de Trend Vision One ayudan a gestionar los riesgos humanos inherentes al uso de la IA. Estas funciones se suman como complementos a capacidades ya probadas de contextualización de alertas y descodificación de secuencias de comandos complejas, impulso de consultas de búsqueda de amenazas que pueden ayudar a erradicar el phishing de credenciales, o recomendación de acciones de respuesta personalizadas, entre otras muchas.

La cofundadora y CEO, Eva Chen, está marcando el rumbo de la plataforma de ciberseguridad de Trend, durante la celebración de RSA Conference 2024, en la que los investigadores de la compañía ofrecen dos ponencias sobre inteligencia de amenazas de IA.

Protección y responsabilidad en el viaje de la inteligencia artificial

"Los grandes avances tecnológicos siempre conllevan nuevos ciberriesgos. Al igual que la nube y todas las demás plataformas que hemos logrado asegurar, la promesa de la era de la IA solo es poderosa si se protege. Nuestras últimas actualizaciones de la plataforma ofrecen nuevas eficiencias a los equipos de seguridad y proporcionan directrices críticas para el uso de la IA”, declara Eva Chen.

La directiva señala que Trend Micro defiende un sólido modelo de IA responsable y está convencida de que todos los proveedores de seguridad tienen la responsabilidad de garantizar que las tecnologías se desarrollen y utilicen de forma ética, transparente y responsable. Este riesgo cibernético asociado a la IA se aplica también a los proveedores de seguridad. 

Dave Gruber, analista principal de Enterprise Strategy Group, afirma con respecto a este nuevo desarrollo que: "Además de establecer y perfeccionar las políticas de gobernanza de la IA, los equipos de seguridad necesitan mecanismos eficaces para identificar, supervisar e implementar controles para su uso tanto a nivel individual como empresarial. Los proveedores de seguridad como Trend Micro están bien posicionados para ayudar a los equipos de seguridad a permitir la rápida adopción de la IA para acelerar los objetivos empresariales de forma segura”.