La IA y la tecnología en la sombra son los principales desafíos de las organizaciones

El “Informe sobre amenazas y la nube de IA generativa para 2025”, elaborado por Netskope Threat Labs, revela que los riesgos asociados a la inteligencia artificial generativa no han hecho más que incrementarse. Según el análisis de 317 aplicaciones de IA generativa sobre las que tenían visibilidad, como ChatGPT, Google Gemini y GitHub Copilot, el 75% de los usuarios corporativos acceden a aplicaciones que tienen funciones de GenAI, lo que Netskope llama “la amenaza interna involuntari”.

La compañía calcula que el volumen de datos que se han subido a plataformas de IA generativa se ha multiplicado por 30 en solo un año. Y, lo que puede ser muy grave, entre los datos que se han subido hay “código fuente, datos sometidos a regulación, contraseñas y claves, y propiedad intelectual, lo que eleva significativamente el nivel de riesgo de que se produzcan vulneraciones costosas, infracciones de cumplimiento normativo y robos de propiedad intelectual”.

El informe también señala que cada vez más entidades utilizan infraestructuras locales de IA generativa, que han pasado del 1% al 54%, una tendencia que podría seguir al alza. Pese a que esta estrategia reduce los riesgos de exposición, Netskope señala que puede representar otros tipos de amenaza, relacionados con “las cadenas de suministro, las fugas de datos, el manejo inadecuado de la salida de datos, la inyección de comandos, los jailbreaks y la extracción de metaprompt”.

James Robinson, CISO de Netskope, explica que, “a pesar de los grandes esfuerzos de las organizaciones por implementar herramientas de IA generativa gestionadas por la empresa, nuestro estudio pone de manifiesto que la ‘shadow IT’ se ha convertido en ‘shadow IA’, y casi tres cuartas partes de los usuarios siguen accediendo a aplicaciones de genAI a través de cuentas personales”.