Microsoft ha advertido sobre los riesgos asociados a los agentes dobles en la inteligencia artificial (IA), quienes utilizan los privilegios otorgados a estos sistemas para realizar acciones maliciosas sin que las empresas lo noten. A medida que las organizaciones, incluyendo más del 80% de las empresas Fortune 500, integran estos agentes en sus operaciones, surge la preocupación por el abuso de los permisos y la falta de visibilidad en el uso de la IA, lo cual puede dar lugar a lo que se conoce como IA en la sombra o «shadow IA».
La adopción de agentes de IA en las empresas
Presencia creciente en las organizaciones
Los agentes de inteligencia artificial están cada vez más integrados en las operaciones empresariales. Según el informe Cyber Pulse 2026 de Microsoft, las empresas innovadoras están formando equipos mixtos de personas y agentes de IA que colaboran en diversas tareas. Este enfoque ha permitido a las compañías mejorar su eficiencia y rapidez en la toma de decisiones.
Sectores que emplean agentes de IA
Varios sectores han comenzado a adoptar agentes inteligentes para optimizar sus procesos. Algunas de las áreas que más utilizan esta tecnología son:
- Software y tecnología: 16%
- Manufactura: 13%
- Entidades financieras: 11%
- Comercio minorista: 9%
Estos sectores aprovechan la IA para realizar tareas complejas como redacción de propuestas, análisis de datos financieros, y automatización de procesos repetitivos.
Riesgos asociados con los agentes de IA
La amenaza de los agentes dobles
La creciente adopción de agentes de IA trae consigo nuevos riesgos. Microsoft advierte que un agente de IA con demasiados permisos o que opera bajo instrucciones incorrectas puede crear vulnerabilidades dentro de los sistemas empresariales. Esto ocurre cuando un agente actúa de manera autónoma y puede ser manipulado a través de instrucciones de fuentes no fiables.
IA en la sombra
La IA en la sombra se refiere a la utilización de sistemas de IA sin la supervisión o el control adecuados, lo que puede dar lugar a malusos o desviaciones en su funcionamiento. Un alto porcentaje de organizaciones, según el Data Security Index de Microsoft, no cuenta con controles de seguridad específicos para la IA generativa, dejando expuestos a los sistemas a potenciales ataques.
Recomendaciones para emprendedores y negocios
-
Evaluación de riesgos: Realiza evaluaciones periódicas de los sistemas de IA y sus configuraciones para detectar vulnerabilidades.
-
Implementación de controles de seguridad: Asegúrate de establecer controles de seguridad específicos que se enfoquen en el uso de la IA, incluidos permisos y acceso.
-
Capacitación continua: Ofrece formación regular a tu equipo sobre los riesgos asociados con la IA y cómo manejarlos.
-
Adopción del enfoque de Zero Trust: Considera implementar un enfoque de confianza cero**, donde se otorguen permisos mínimos y comprobaciones rigurosas de acceso.
- Monitoreo activo: Implementa sistemas de monitoreo para detectar comportamientos inusuales de los agentes de IA y responder rápidamente a incidentes.
Conclusiones
La integración de la inteligencia artificial en los procesos empresariales presenta tanto oportunidades como desafíos. La advertencia de Microsoft sobre los agentes dobles subraya la importancia de manejar adecuadamente los permisos y mantener una visibilidad constante sobre el uso de estos sistemas. Adoptar un enfoque proactivo hacia la seguridad y la gestión de riesgos no solo es fundamental para proteger la infraestructura empresarial, sino también para aprovechar al máximo las ventajas que ofrece la tecnología de IA.