Los ciberdelincuentes aprovecharán la IA como vector y como superficie de ataque

  • Endpoint

inteligencia artificial IA

Así como los beneficios de la inteligencia artificial para la sociedad son muy reales, también lo es la amenaza de su uso malintencionado. Esta podría usarse para apoyar ataques de ingeniería social a gran escala, malware de rastreo de documentos y ataques de ransomware, entre otros.

Recomendados: 

Arquitecturas de Seguridad, ¿qué ventajas ofrecen? Webinar

Brechas de seguridad, ¿hay opciones? Webinar 

Un informe elaborado conjuntamente por Europol, el Instituto Interregional de Investigación sobre Justicia y Crimen (UNICRI) de las Naciones Unidas y Trend Micro que analiza los usos delictivos actuales y previstos de la inteligencia artificial (IA). El informe concluye que los ciberdelincuentes aprovecharán la IA como vector de ataque y como superficie de ataque.

Los Deep fakes son actualmente el uso más conocido de la IA como vector de ataque. Sin embargo, el informe advierte que se necesitará nueva tecnología de detección en el futuro para mitigar el riesgo de campañas de desinformación y extorsión, así como las amenazas que apuntan a conjuntos de datos de IA. Por ejemplo, la IA podría usarse para impulsar ataques de ingeniería social a gran escala; malware de rastreo de documentos para hacer que los ataques sean más eficientes; evasión de la biometría de reconocimiento de imagen y voz; ataques de ransomware; y contaminación de datos, mediante la identificación de puntos ciegos en las reglas de detección. El documento también advierte que se están desarrollando sistemas de IA para mejorar la efectividad del malware y para interrumpir los sistemas anti-malware.

“La IA promete al mundo una mayor eficiencia, automatización y autonomía. En un momento en el que el público está cada vez más preocupado por el posible uso indebido de la IA, tenemos que ser transparentes sobre las amenazas, pero también analizar los beneficios potenciales de la tecnología", afirma Edvardas Šileris, director del Centro Europeo de Ciberdelincuencia de Europol. “Este informe nos ayudará no solo a anticipar posibles usos maliciosos y abusos de la IA, sino también a prevenir y mitigar esas amenazas de manera proactiva. Así es como podemos desbloquear el potencial que tiene la IA y beneficiarnos del uso positivo de los sistemas de IA".

Por su parte, Martin Roesler, jefe de investigación de amenazas prospectivas de Trend Micro, señala que “los ciberdelincuentes siempre han sido los primeros en adoptar la última tecnología y la IA no es diferente. Como revela este informe, ya se está utilizando para adivinar contraseñas, romper CAPTCHA y clonar voz, y hay muchas más innovaciones maliciosas en proceso. Estamos orgullosos de asociarnos con Europol y UNICRI para crear conciencia sobre estas amenazas y, al hacerlo, ayudar a crear un futuro digital más seguro para todos nosotros".

Las tres organizaciones recomiendan aprovechar el potencial de la inteligencia artificial como herramienta de lucha contra el crimen; continuar la investigación para estimular el desarrollo de tecnología defensiva; promover y desarrollar marcos de diseño de IA seguros; reducir la retórica políticamente cargada sobre el uso de IA con fines de ciberseguridad; y aprovechar las asociaciones público-privadas y establecer grupos de expertos multidisciplinarios.

Suscríbete a nuestro Newsletter

* Todos los campos son requeridos