Ciberatacantes utilizan DeepSeek y Qwen para desarrollar código malicioso
- Actualidad
Tanto Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos fraudulentos con restricciones mínimas. Los atacantes están divulgando información sobre cómo manipular estos modelos y mostrar contenidos sin censura utilizando jailbreaking.
Poco después del lanzamiento de los modelos de IA DeepSeek y Qwen, investigadores de Check Point Research han descubierto que los ciberdelincuentes están pasando de ChatGPT a estas nuevas plataformas para desarrollar contenido malicioso. Los atacantes están divulgando información sobre cómo manipular estos modelos y mostrar contenidos sin censura utilizando jailbreaking, lo que en última instancia les permite utilizar la IA para crear herramientas maliciosas. Además, existen guías detalladas sobre las distintas formas de jailbreaking, cómo eludir las protecciones antifraude y cómo desarrollar malware propiamente dicho.
Tanto Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos fraudulentos con restricciones mínimas. Aunque ChatGPT ha invertido sustancialmente en medidas antiabuso en los dos últimos años, estos modelos más recientes parecen ofrecer poca resistencia al uso indebido, lo que atrae el interés de atacantes de distintos niveles, especialmente los poco cualificados, es decir, individuos que explotan scripts o herramientas existentes sin un conocimiento profundo de la tecnología subyacente.
Es fundamental destacar que ya existen versiones no censuradas de ChatGPT en varios repositorios de Internet. A medida que estos nuevos modelos de IA ganen popularidad, es previsible que aparezcan versiones equivalentes de DeepSeek y Qwen, lo que aumentará aún más los riesgos.
Los investigadores han encontrado algunos ejemplos alarmantes de cómo se utilizan estos motores de IA con fines maliciosos y cómo se comparten en la web para que otros los utilicen. Los atacantes han creado infostealers utilizando Qwen, con el objetivo de capturar información confidencial de usuarios desprevenidos.
Sugerencias para el Jailbreaking
Jailbreaking se refiere a los métodos que permiten a los usuarios manipular los modelos de IA para generar contenidos sin censura ni restricciones. Esta táctica se ha convertido en una de las preferidas de los ciberdelincuentes, ya que les permite aprovechar las capacidades de la IA con fines maliciosos.
Los atacantes comparten instrucciones de jailbreaking para DeepSeek que pueden manipular las respuestas del modelo, incluyendo métodos como el enfoque “Haz ahora cualquier cosa” y explotando técnicas como el método “Supervivientes de accidentes aéreos”.
Asimismo, se han detectado múltiples discusiones y técnicas compartidas sobre el uso de DeepSeek para eludir las protecciones antifraude de los sistemas bancarios, lo que indica el potencial de importantes robos financieros. Por otro lado, los ciberdelincuentes están usando los tres modelos de IA -ChatGPT, Qwan y DeepSeek juntos- para solucionar problemas y optimizar scripts para la distribución masiva de spam, mejorando la eficacia de sus actividades maliciosas.
