A medida que los agentes de IA se vuelven cada vez más capaces, las empresas que se esfuerzan por implementarlos en diferentes aplicaciones, flujos de trabajo y productos se enfrentan a un nuevo desafío: garantizar que un agente cumpla con su propósito cuando se despliega en diversos entornos. Microsoft está abordando este problema con un nuevo estándar de código abierto denominado Especificación de Control de Agentes (ACS), que tiene como objetivo proporcionar a los desarrolladores una forma más consistente y detallada de controlar lo que se les permite hacer a los agentes de IA.
Introducción a la Especificación de Control de Agentes (ACS)
La especificación de ACS permite a los equipos de desarrollo, cumplimiento y seguridad definir sus propias políticas para que los agentes las sigan. Estas reglas pueden determinar qué puede hacer el agente, qué debe evitar, cuándo debe contar con la aprobación de un humano para llevar a cabo una acción y qué evidencia debe registrarse para una revisión posterior. Los archivos de políticas se verifican en varios «puntos de interceptación» cuando el agente realiza una tarea, garantizando que se mantenga dentro de los límites establecidos.
Contexto del Desarrollo de la IA
El desarrollo de IA actual se enfrenta a improvisaciones sobre cómo controlar lo que sus agentes ven y hacen, especialmente cuando se producen incidentes relacionados con flujos de trabajo de IA que fallan debido a un uso inadecuado de las herramientas o acciones no intencionadas que llevan a fallos en cadena. En el presente, los desarrolladores especifican instrucciones en una promoción de sistema, añaden controles personalizados en el código de la aplicación o utilizan clasificadores para abordar entradas y salidas problemáticas. Aunque estos enfoques son efectivos, a menudo dejan a las empresas con controles fragmentados que son difíciles de auditar y más complicados de reutilizar en diferentes marcos, interfaces y sistemas.
Objetivos de ACS
La especificación de ACS busca integrar estos controles en una capa de gobernanza común. Microsoft afirma que la especificación puede utilizarse para verificar si un agente se mantiene dentro de los límites establecidos en varios puntos de su flujo de trabajo, que incluyen:
- Antes de recibir entradas
- Antes de llamar a una herramienta
- Después de que una herramienta devuelve un resultado
- Antes de enviar la respuesta final al usuario
Una política puede permitir una acción, bloquearla, redactar información sensible o incluso solicitar la aprobación de una persona.
Funcionalidades Adicionales
Los desarrolladores tienen la opción de insertar clasificadores para entradas y salidas con el fin de categorizar información, predecir resultados o determinar cómo debe responder un agente. Asimismo, pueden añadir Modelos de Lenguaje de Última Generación (LLMs) con promociones que actúen como un «juez» para las políticas y lógica para verificar llamadas a herramientas, la selección de herramientas, la precisión de las entradas, el uso de salidas y las respuestas.
Dado que estas políticas pueden ser redactadas como archivos únicos, pueden agruparse con los agentes, lo que permite que una política de seguridad siga al agente a través de diferentes marcos y entornos.
Integración y Compatibilidad
ACS se entrega como un SDK que incluye complementos para varios entornos, tales como LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, y herramientas de Microsoft.Extensions.AI, entre otros. Esto facilita la integración de las políticas de control en los sistemas existentes.
Consejos para Emprendedores y Negocios
- Formación Continua: Mantén a tu equipo al día en las últimas tendencias y estándares de control en IA para evitar sorpresas desagradables.
- Documentación Clara: Asegúrate de dejar documentadas todas las políticas y procedimientos relacionados con el uso de IA en tu organización.
- Revisiones Periódicas: Realiza auditorías y revisiones frecuentes de las acciones de los agentes de IA para garantizar que cumplen con las políticas establecidas.
- Escucha Proactiva: Implementa mecanismos de retroalimentación que te permitan ajustar las políticas a medida que la tecnología y el entorno cambian.
Conclusión
La Especificación de Control de Agentes (ACS) de Microsoft representa un avance significativo en la forma en que las empresas pueden gobernar y controlar el uso de IA en sus operaciones. Al proporcionar un enfoque más organizado y granular para gestionar las capacidades de los agentes de IA, las empresas pueden mitigar los riesgos asociados con el uso de esta tecnología, asegurando que se comporten de acuerdo con las políticas definidas y manteniéndose dentro de límites seguros. Implementar estas nuevas herramientas y enfoques no sólo mejorará la eficiencia, sino que también fortalecerá la seguridad y la confianza en las soluciones de IA.