Cisco y Hugging Face intentan asegurar la cadena de suministro de la IA

Cisco y Hugging Face han reforzado sus lazos con el anuncio de su colaboración ampliada. Lo que es ya un acuerdo estratégico intenta proporcionar ciberseguridad a la cadena de suministro de la IA. Cisco explica que cada 7 segundos se suma un nuevo modelo de IA: en la actualidad, ya hay 1,9 millones de modelos, que Hugging Face pone a disposición de desarrolladores de todo el mundo.

Un sistema interesante, en el que colaboran tanto instituciones como creadores independientes, lo que lo convierte en una pieza valiosa de la cadena de suministro de la IA. También es un punto de riesgo, teniendo en cuenta que entre las muchas amenazas que hay en torno a la IA, existe la posibilidad de los propios modelos incorporen código malicioso o puertas traseras.

Gracias al acuerdo, todos los archivos públicos, sean o no modelos de IA, tendrán un escaneo de malware desde una plataforma unificada. Para ello se utilizará el motor ClamAV, que en su última versión no solo utiliza capacidades de detección personalizadas, sino que está especialmente preparado para los modelos de IA, detectando riesgos en formatos de los modelos habituales como .pt y .pkl.

Julien Chaumond, CTO de Hugging Face, explica que “durante años hemos estado escaneando archivos con ClamAV, el detector de malware gratuito y open source de Cisco Talos. Con la nueva actualización de ClamAV, podemos ofrecer protección integral contra el malware tradicional y las amenazas exclusivas de los modelos de IA, todo con una sola herramienta. Agradecemos a Cisco que se haya convertido en nuestro socio para escanear todos los archivos subidos a Hugging Face”.