La inteligencia artificial (IA) ha dejado de ser solo una herramienta innovadora para convertirse en un objetivo principal de los cibercriminales. Estos actores maliciosos no solo buscan clonar modelos de IA propietarios, sino que también utilizan esta tecnología para mejorar sus propias tácticas de ataque. Un reciente informe de Google Threat Intelligence Group (GTIG) revela un incremento en los ataques de destilación y la formación de un mercado clandestino de servicios de IA, lo cual representa un desafío significativo para la seguridad cibernética.
Los Nuevos Métodos de Ataque
Ataques de Destilación
Uno de los tipos de ataques en aumento son los ataques de destilación, en los que los cibercriminales intentan extraer modelos de IA generativa. El objetivo es obtener información sobre el funcionamiento interno de estos modelos para clonarlos. Este comportamiento es una muestra de cómo la IA se está integrando en el cibercrimen, convirtiéndose en una herramienta valiosa para los atacantes.
Ciclo de Vida del Ataque
El informe también detalla cómo la IA es utilizada por los cibercriminales a lo largo de todo el ciclo de vida del ataque. Esto incluye:
- Codificación y creación de scripts
- Recopilación de información sobre objetivos
- Investigación de vulnerabilidades
- Actividades posteriores al compromiso que se han visto facilitadas por herramientas impulsadas por IA.
Estos métodos permiten a los atacantes optimizar sus estrategias y llevar a cabo ataques más sofisticados y efectivos.
Casos de Uso de IA por Actores Maliciosos
Actor APT42
El documento menciona a APT42, un grupo de amenazas respaldado por el gobierno iraní, que ha utilizado modelos de IA para realizar reconocimientos sobre emails oficiales y estudiar posibles socios comerciales. Este uso de IA les permite establecer pretextos creíbles para sus ataques.
Actor UNC2970
Otro grupo, UNC2970, vinculado a Corea del Norte, ha empleado el modelo Gemini para sintetizar inteligencia a partir de fuentes abiertas, lo que les ha permitido perfilar objetivos de alto valor y mejorar la planificación de sus campañas.
Innovaciones en Malware
HONESTCUE
La IA también se ha explorado en el desarrollo de nuevas capacidades en malware. Un ejemplo es HONESTCUE, que utiliza la API de Gemini para subcontratar la generación de funcionalidades de malware. Este enfoque ayuda a eludir técnicas tradicionales de detección basadas en red.
Kit de Phishing COINBAIT
Otro caso es el kit de phishing COINBAIT, que se desarrolló con la ayuda de herramientas de generación de código impulsadas por IA. Este kit se presentaba como un servicio de intercambio de criptomonedas, diseñado para recolectar credenciales de los usuarios.
Mercado de Servicios de IA Maliciosos
El informe también destaca la existencia de un mercado de servicios de IA que apoya actividades maliciosas. En foros clandestinos, tanto en inglés como en ruso, se promocionan y venden herramientas de IA que pueden ser utilizadas por cibercriminales. Aunque los actores maliciosos aún enfrentan dificultades para desarrollar modelos personalizados, están utilizando modelos existentes y disponibles en el mercado.
Consejos para Emprendedores y Negocios
- Formación Continua: Mantener a tu equipo actualizado sobre las últimas tendencias en ciberseguridad y tecnologías de IA para poder anticipar posibles amenazas.
- Implementar Medidas de Seguridad: Utilizar herramientas de detección de intrusiones y sistemas de ciberseguridad robustos que puedan identificar comportamientos anómalos.
- Colaboración: Trabajar con expertos en IA y ciberseguridad para adaptar las mejores prácticas de defensa y responder de manera eficaz a nuevas amenazas.
- Auditorías Regulares: Realizar auditorías frecuentes de seguridad para identificar y mitigar vulnerabilidades en sistemas.
- Conciencia Organizacional: Fomentar una cultura de seguridad entre todos los empleados, asegurando que comprendan los riesgos y procedimientos de respuesta ante incidentes.
Conclusiones
La inteligencia artificial ha revolucionado la manera en que operan los negocios, pero también ha abierto nuevas vías para el cibercrimen. La capacidad de los atacantes para utilizar la IA para optimizar ataques y el desarrollo de un mercado subterráneo de herramientas maliciosas son realidades preocupantes. Las organizaciones deben tomar medidas proactivas y adaptativas para protegerse contra estas nuevas amenazas, garantizando que la IA se utilice de manera ética y responsable en el ámbito empresarial.