Kimsuky construye una infraestructura de IA offline para potenciar el phishing y el malware

La inteligencia artificial se ha convertido en una herramienta cada vez más utilizada por los ciberdelincuentes. Ahora, el grupo de ciberespionaje norcoreano Kimsuky está dando un paso más al construir una infraestructura de IA capaz de funcionar sin conexión a Internet.

Una investigación de la empresa surcoreana Genians identificó herramientas de inteligencia artificial ejecutándose o configuradas en infraestructura relacionada con Kimsuky. Entre ellas se encuentran Ollama, GPT4All y Msty, utilizadas para ejecutar modelos de lenguaje localmente.

La actividad sugiere que el grupo está investigando cómo incorporar IA a diferentes etapas de sus operaciones, desde la creación de campañas de phishing hasta el análisis de información y el desarrollo de malware.

¿Por qué utilizar IA sin conexión?

El uso de modelos locales ofrece una ventaja importante para un grupo dedicado al ciberespionaje: no necesita enviar sus consultas o documentos a servicios públicos de inteligencia artificial.

Esto puede permitir trabajar con información sensible dentro de una infraestructura controlada por el propio atacante.

Además, una infraestructura offline puede reducir la exposición de las actividades del grupo frente a proveedores externos y evitar que las consultas realizadas queden registradas en servicios comerciales.

Ollama, GPT4All y Msty

Los investigadores encontraron evidencias relacionadas con varias herramientas utilizadas para ejecutar modelos de IA localmente.

Entre ellas aparecen:

• Ollama, utilizado para ejecutar modelos de lenguaje en equipos propios.
• GPT4All, que permite ejecutar modelos localmente.
• Msty, una herramienta para trabajar con modelos de lenguaje locales.

La investigación encontró indicios de que estas herramientas no simplemente fueron descargadas, sino que algunas fueron ejecutadas o configuradas.

Este detalle es importante porque demuestra que el interés del grupo va más allá de experimentar superficialmente con herramientas de IA.

IA conectada con documentos privados mediante RAG

Uno de los hallazgos más interesantes está relacionado con Retrieval-Augmented Generation (RAG).

GPT4All contenía una base de datos denominada localdocs_v3.db, utilizada por su función LocalDocs.

RAG permite que un modelo de lenguaje consulte una colección de documentos y utilice esa información para generar respuestas.

En un entorno de ataque, esta capacidad podría utilizarse para analizar grandes cantidades de información de manera más rápida.

Sin embargo, existe una distinción importante: los investigadores encontraron evidencia de que el grupo intentó conectar documentos con un sistema de IA, pero esto no demuestra que esos documentos hayan sido robados.

También están preparando herramientas para desarrollo

La infraestructura encontrada no se limita a aplicaciones de IA listas para utilizar.

Genians también identificó bibliotecas de desarrollo como:

• LLaMaSharp.
• Microsoft Semantic Kernel.
• Microsoft.Agents.AI.

Estas tecnologías pueden utilizarse para integrar capacidades de inteligencia artificial dentro de aplicaciones desarrolladas con C# y .NET.

También se encontraron archivos relacionados con Whisper, tecnología de reconocimiento de voz a texto, además de rastros del editor de código con IA Cursor.

El conjunto de herramientas sugiere que Kimsuky está explorando diferentes formas de incorporar IA a sus propios procesos.

¿Para qué podría utilizarse?

La investigación apunta a varios posibles usos.

Phishing más convincente

La IA puede ayudar a generar mensajes adaptados al idioma, contexto y perfil de una víctima.

Esto puede reducir algunos de los errores tradicionales que permitían identificar un correo malicioso.

Los mensajes generados automáticamente pueden presentar una redacción más natural y adaptarse mejor a temas específicos.

Análisis de información

Los modelos locales pueden utilizarse para procesar grandes cantidades de documentos y buscar información específica.

Esto puede resultar especialmente útil para grupos de espionaje que trabajan con grandes volúmenes de información.

Desarrollo de malware

La infraestructura encontrada también incluye componentes orientados al desarrollo de software.

Aunque la investigación no demuestra que Kimsuky ya esté utilizando IA para generar automáticamente todo su malware, la preparación de este entorno indica interés en incorporar estas capacidades al proceso de desarrollo.

Kimsuky y Operation GitPower

La actividad está relacionada con una campaña que Genians denomina Operation GitPower.

Esta operación utiliza repositorios de GitHub como parte de la infraestructura de comunicación y distribución empleada durante las infecciones.

La cadena de ataque observada incluye archivos LNK, ejecución de PowerShell y cargas maliciosas como AsyncRAT.

Esto proporciona un contexto importante: la infraestructura de IA no aparece aislada, sino dentro de un ecosistema de herramientas y técnicas que Kimsuky ya utiliza para sus operaciones.

La IA también cambia el phishing

Uno de los principales problemas para los defensores es que algunos indicadores tradicionales pueden perder efectividad.

Durante años, los empleados fueron entrenados para identificar phishing mediante señales como:

• Errores ortográficos.
• Traducciones extrañas.
• Redacción poco natural.
• Formato deficiente.
• Mensajes genéricos.

La inteligencia artificial puede reducir muchos de estos errores.

Por eso, un correo perfectamente redactado no significa que sea legítimo.

Las empresas deben prestar mayor atención al contexto, al comportamiento de los sistemas y a las acciones realizadas después de abrir un archivo o enlace.

¿Cómo pueden protegerse las empresas?

La evolución de estas técnicas requiere una estrategia de defensa que no dependa únicamente de identificar errores de redacción.

Capacitar a los usuarios

Los empleados deben aprender a identificar comportamientos sospechosos, no solamente errores ortográficos.

Un mensaje bien escrito puede seguir siendo un intento de phishing.

Proteger las identidades

La implementación de MFA resistente al phishing, políticas de acceso y controles de identidad reduce el impacto de las credenciales robadas.

💻 Supervisar los endpoints

Los equipos de seguridad deben prestar atención a comportamientos como:

• Ejecución inesperada de archivos LNK.
• PowerShell sospechoso.
• Tareas programadas ocultas.
• Conexiones inusuales con GitHub.
• Ejecución de cargas desconocidas.
• Actividad posterior al acceso inicial.

Genians recomienda correlacionar estos eventos en lugar de evaluar una amenaza únicamente por la apariencia del correo utilizado como señuelo.

Controlar el uso empresarial de IA

Las organizaciones también deben establecer políticas claras sobre el uso de herramientas de inteligencia artificial.

Los empleados no deberían introducir información confidencial, credenciales, datos de clientes o documentos internos en herramientas de IA no autorizadas.

¿Estamos ante malware creado completamente por IA?

No necesariamente.

Es importante diferenciar entre experimentar con IA y tener una operación completamente automatizada mediante inteligencia artificial.

La evidencia disponible indica que Kimsuky está en una etapa de investigación y adquisición de conocimientos, reuniendo herramientas y probando cómo incorporarlas a sus operaciones.

Los investigadores no encontraron evidencia de que el grupo haya entrenado su propio modelo de IA. Tampoco se ha demostrado que toda su cadena de ataque esté automatizada mediante inteligencia artificial.

Sin embargo, la preparación de esta infraestructura demuestra que los grupos de amenazas están buscando formas de utilizar la IA como multiplicador de capacidades.

Conclusión

La actividad de Kimsuky representa otra señal de cómo la inteligencia artificial está modificando el panorama de amenazas.

Los atacantes no necesariamente necesitan desarrollar un modelo propio. Pueden combinar modelos existentes, herramientas open source, RAG, bibliotecas de desarrollo y automatización para mejorar diferentes etapas de sus operaciones.

Para las empresas, esto significa que la defensa tampoco puede depender únicamente de detectar correos mal redactados.

La seguridad debe centrarse cada vez más en identidad, comportamiento, endpoints, telemetría y detección de actividades anómalas.

Recuerda

Que un correo esté perfectamente escrito no significa que sea seguro.

La IA puede ayudar a los atacantes a crear señuelos más convincentes, pero una estrategia de seguridad basada en tecnología, monitoreo y capacitación puede reducir significativamente el riesgo.

La inteligencia artificial también está cambiando la forma de atacar. La defensa debe evolucionar al mismo ritmo.