X

Noticias IA

Google crea un internet simulado y aislado para entrenar y evaluar agentes de IA sin riesgos reales

Google ha desarrollado un entorno aislado que imita internet para entrenar y evaluar agentes de inteligencia artificial capaces de navegar por páginas web. Este espacio de pruebas permite observar cómo actúan durante tareas complejas y someterlos a miles de ensayos de seguridad sin que puedan afectar a sitios, datos o usuarios reales.

Un internet simulado para probar agentes de IA

Los agentes de IA pueden realizar acciones en la web, como completar formularios o recorrer diferentes páginas para cumplir una tarea. Probarlos directamente en internet puede entrañar riesgos: podrían borrar información, realizar compras por accidente o quedar expuestos a ataques.

Para reducir esos peligros, Google creó una réplica sintética de internet, también conocida como sandbox. Se trata de un entorno separado de la red pública, pensado para que los agentes naveguen y sean evaluados sin interactuar con servicios reales.

Evitar que los agentes detecten que están en una prueba

Uno de los desafíos es que un agente podría sospechar que está siendo evaluado si encuentra páginas falsas o incompletas. Por ejemplo, si los botones no funcionan o el sitio parece estático, el agente puede cambiar su comportamiento y actuar de manera distinta a como lo haría en una situación normal.

Por eso, el entorno debe ofrecer una experiencia de navegación suficientemente realista. El objetivo es que el agente pueda completar tareas habituales y enfrentarse a escenarios novedosos sin advertir que está dentro de una simulación.

Cómo se redirige la navegación de forma segura

Google utiliza una versión de Chrome sin interfaz, ejecutada dentro de un contenedor aislado llamado gVisor, que bloquea las conexiones hacia internet público.

Cuando el agente intenta visitar una dirección —por ejemplo, YouTube—, el entorno captura la solicitud y la redirige a un servidor local que ofrece una versión simulada del sitio. De este modo, la navegación parece normal para el agente, pero permanece dentro del espacio de pruebas.

Para que Chrome no interprete la redirección como una conexión insegura, un proxy genera certificados TLS válidos vinculados a una autoridad de certificación personalizada. Esa autoridad se instala previamente en el navegador del entorno, de modo que Chrome pueda validar la conexión HTTPS como legítima dentro de la simulación.

Cómo se construyen las páginas simuladas

Las páginas del entorno se crean mediante un sistema compuesto por tres subagentes, cada uno con una función específica:

1. Definición de requisitos y recursos

El primer subagente establece qué elementos funcionales debe incluir cada sitio. Entre ellos pueden figurar carritos de compra persistentes, filtros y formularios. También prepara recursos visuales básicos para dar forma a las páginas.

2. Desarrollo de las aplicaciones web

El segundo subagente escribe el código de las páginas utilizando HTML, CSS y JavaScript. El sistema puede generar sitios con varias páginas y funciones para que los agentes tengan que desenvolverse en experiencias más completas que una simple página estática.

3. Revisión técnica y de accesibilidad

El tercer subagente audita las páginas generadas para detectar posibles problemas, como errores de JavaScript, fallos de diseño adaptable a distintos tamaños de pantalla o deficiencias de accesibilidad, incluidas las relacionadas con las etiquetas ARIA.

Seguridad y evaluación de los agentes

Google señala que los agentes seguros y alineados necesitan un entorno donde puedan ser supervisados mientras realizan flujos de trabajo prolongados y toman decisiones en situaciones que no estaban presentes en su entrenamiento.

La simulación permite realizar miles de pruebas diarias para evaluar la resistencia de los agentes ante distintos escenarios y posibles ciberataques. Al mantenerlos fuera de internet público, se reduce el riesgo de que provoquen daños reales durante esos ensayos.

Protección frente a instrucciones maliciosas

El entorno también sirve para estudiar cómo responden los agentes ante la inyección indirecta de instrucciones. Este tipo de ataque puede ocultar órdenes maliciosas dentro de una página web para intentar modificar la tarea original del agente y conseguir que realice acciones no autorizadas.

Además, las pruebas contemplan la posibilidad de que se introduzcan instrucciones maliciosas de forma invisible mediante cabeceras HTTP. Analizar estas amenazas en una réplica controlada permite observar el comportamiento de los agentes sin poner en riesgo sistemas externos.

Consejos para emprendedores y negocios

La iniciativa de Google ofrece aprendizajes aplicables a empresas que desarrollan o incorporan inteligencia artificial:

  • Prueba los agentes en entornos aislados. Antes de permitir que una IA interactúe con clientes, proveedores o sistemas internos, evalúa sus acciones en una simulación que no pueda modificar datos reales.
  • Limita los permisos desde el principio. Concede a cada agente únicamente el acceso necesario para realizar su tarea. Por ejemplo, un asistente que consulta información no debería tener permisos para borrar registros o autorizar pagos.
  • Define límites para las acciones sensibles. Las compras, transferencias, eliminaciones de datos y cambios importantes pueden requerir una confirmación humana, especialmente durante las primeras etapas de uso.
  • Incluye escenarios de error y abuso en las pruebas. No evalúes solo las tareas ideales. Comprueba qué hace el agente ante instrucciones contradictorias, páginas engañosas, formularios defectuosos o contenido malicioso.
  • Supervisa los flujos de trabajo completos. Una acción aislada puede parecer segura, pero una cadena larga de decisiones puede generar consecuencias inesperadas. Registra y revisa los pasos que sigue el agente.
  • Valida la experiencia de usuario y la accesibilidad. Si tu negocio utiliza agentes para navegar por servicios digitales, asegúrate de que estos puedan interpretar páginas claras, adaptables y accesibles.
  • Mantén registros y mecanismos de recuperación. Guarda información sobre las decisiones del agente y establece procedimientos para detenerlo, revertir cambios o atender incidentes.
  • Empieza con tareas de bajo riesgo. Automatiza primero procesos repetitivos y reversibles. Amplía las responsabilidades solo cuando las pruebas demuestren que el sistema se comporta de forma fiable.

Conclusiones

El entorno de Google aborda un desafío central para la expansión de los agentes de IA: probar su capacidad para navegar y actuar en la web sin exponer a personas o empresas a consecuencias reales. La combinación de una red aislada, páginas funcionales simuladas y controles frente a instrucciones maliciosas permite realizar evaluaciones más realistas y seguras.

Para los negocios, la lección es clara: incorporar inteligencia artificial requiere algo más que comprobar si una herramienta completa una tarea. También es necesario limitar sus permisos, probar situaciones adversas y supervisar sus decisiones, especialmente cuando puede acceder a datos, efectuar compras o modificar sistemas.

Compartir noticia

Publicado

en

por

Newsletter Negocios con IA

¿Quieres Mejorar tu Negocio?