La complejidad de los sistemas industriales autónomos puede aumentar los riesgos operativos

El modelo de Industria 4.0 ha potenciado la intersección entre los entornos TI y OT. Un cruce que ha propiciado una importante evolución, con tecnologías estrella como el Internet Industrial de las Cosas (IIoT) y la automatización inteligente. Como veíamos en el reciente Encuentro ITDM del sector de la industria, la IA está siendo clave para cuestiones como el mantenimiento predictivo o la detección de anomalías.

Sin embargo, como explica Check Point Software, existe “el riesgo de confiar en la aparente eficiencia y control que ofrece esta tecnología”. La compañía señala que, con el nuevo paradigma de la Industria 4.0, se han diluido las fronteras entre TI y OT, cuando antes eran entornos “completamente aislados por motivos de seguridad”. Esto abre la puerta a riesgos como la manipulación de los datos o de la lógica interna para producir errores que podrían desencadenar fallos en cascada.

Riesgos que se pueden mitigar con una serie de medidas, entre las que la compañía recomienda utilizar modelos de IA explicables; trabajar con equipos Red Team que estén especializados en IA; implementar mecanismos de monitorización del desvío operativo para detectar comportamientos anómalos; y establecer controles Human-in-the-Loop para que los operadores humanos tomen las decisiones de alto impacto.

Para Eusebio Nieva, director técnico de Check Point Software para España y Portugal, “estamos entrando en una era en la que las decisiones autónomas tienen consecuencias físicas. La energía que fluye, las válvulas que se abren o los brazos robóticos que se mueven, responden ya a órdenes emitidas por algoritmos. El mayor peligro no es que la autonomía falle, sino que lo haga en silencio y con consecuencias catastróficas. Por eso es vital que los responsables de OT revisen constantemente cada supuesto de confianza y control en estos sistemas”.