El gobierno de los Estados Unidos ha ordenado a Anthropic que desactive inmediatamente el acceso a dos de sus modelos de inteligencia artificial más potentes: Claude Fable 5 y Claude Mythos 5, invocando preocupaciones de seguridad nacional. Anthropic ha confirmado en su cuenta de X (anteriormente conocido como Twitter) que ha cumplido con la orden, aunque ha expresado su desacuerdo, indicando que considera que el gobierno se ha equivocado en esta decisión.
Descripción de la Directiva del Gobierno
La orden, que Anthropic recibió el pasado viernes a las 5:21 PM ET, obliga a la empresa a inhabilitar ambos modelos para todos los usuarios a nivel mundial, no solo para los ciudadanos extranjeros a los que, nominalmente, estaba dirigida la orden de control de exportaciones. El acceso a otros modelos de Anthropic no se ve afectado por esta directriz.
Importancia de Mythos y Fable
Mythos es considerado el modelo de inteligencia artificial más capaz de Anthropic. La empresa había presentado una vista previa de Mythos a principios de abril y ha mantenido un acceso restringido debido a su destacada habilidad para identificar vulnerabilidades de seguridad en software. Según Anthropic, Mythos ha detectado fallos en todos los principales sistemas operativos y navegadores web que ha evaluado. En lugar de lanzarlo al público en general, la compañía inició un programa controlado llamado Proyecto Glasswing, permitiendo el uso de Mythos a aproximadamente 50 organizaciones seleccionadas para trabajos de ciberseguridad defensiva.
Por otro lado, Fable 5, que fue lanzado solo tres días antes de la orden de desactivación, se presentaba como una versión de Mythos adaptada con filtros que bloquean respuestas en áreas de alto riesgo como ciberseguridad y biología, lo que supuestamente lo hacía lo suficientemente seguro para su lanzamiento público. Según las evaluaciones de rendimiento, se convirtió en el modelo de AI más capaz disponible para el público en general.
Argumentos de Anthropic
La directiva del gobierno se presenta como una medida de control de exportaciones, restringiendo el acceso de ciudadanos extranjeros a los modelos. Sin embargo, Anthropic ha afirmado en un extenso artículo que su comprensión es que la inquietud subyacente se basa en un supuesto jailbreak de Fable 5. Hasta ahora, la empresa indica que el gobierno solo ha proporcionado evidencia verbal de un «potencial jailbreak estrecho y no universal», que consiste en provocar que el modelo lea un código específico y identifique fallos de software. Anthropic sostiene que esta capacidad ya está disponible en otros modelos de acceso público, como el GPT-5.5 de OpenAI.
Anthropic argumenta que sus sistemas de seguridad más robustos operan a través de sistemas de clasificación independientes que funcionan por separado del modelo en sí, lo que significa que, incluso si alguien convence a Fable 5 de seguir hablando tras una negativa, las protecciones contra las salidas más peligrosas se mantienen. Además, la empresa ha realizado una revisión del uso reciente y no encontró evidencia de que estas protecciones se hayan eludido exitosamente para generar contenido perjudicial.
Frustración de Anthropic
A pesar de sus argumentos, el gobierno actuó y Anthropic no ha ocultado su frustración. La empresa considera que la identificación de un jailbreak estrecho no debería ser motivo para retirar un modelo comercial que ha sido puesto a disposición de cientos de millones de personas. Si se aplicara este estándar a toda la industria, creen que resultaría en la detención de todos los nuevos despliegues de modelos por parte de los proveedores de modelos avanzados.
Perspectivas Futura de Anthropic
Se espera que Anthropic busque una oferta pública inicial (IPO) este año y ha construido gran parte de su identidad pública en ser una alternativa centrada en la seguridad frente a sus competidores. La ironía no ha pasado desapercibida para los observadores, ya que la precaución que mostró Anthropic al restringir Mythos, que publicitó como un modelo tan peligroso que no podía ser lanzado al público, ha atraído precisamente el tipo de examen gubernamental que podría interrumpir su negocio de manera más grave.
Impacto en la Competencia
El CEO de OpenAI, Sam Altman, probablemente se esté divirtiendo con esta situación. En abril, mencionó que la gestión de Mythos por parte de Anthropic constituía una especie de «marketing basado en el miedo». Altman resaltó que afirmar haber construido una bomba y luego ofrecer refugios por un alto costo era “increíble marketing”, pero podría llevar a consecuencias no deseadas. La lección aquí es clara: cuando una empresa se dedica a promover su tecnología como excepcionalmente peligrosa, la atención del gobierno es casi inevitable.
Consejos para Emprendedores y Negocios
-
Fortalezas en la Seguridad: Asegúrate de que tus tecnologías cuenten con las mejores medidas de seguridad y protecciones internas. Esto no solo resguarda tu empresa, sino que también sugiere a entidades externas que actúas de manera responsable.
-
Comunicación Clara: Mantén una comunicación clara y transparente sobre las capacidades y limitaciones de tus productos. Evita el uso excesivo de un lenguaje que pueda generar alarmas o malentendidos.
-
Formación Continua: Ofrece capacitaciones regulares a tu equipo sobre normativas y prácticas de seguridad en la implementación de tecnología. La educación es clave en la evolución de un entorno seguro.
- Colaboraciones Estratégicas: Considera asociarte con entidades que tengan una reputación sólida en ciberseguridad y control de riesgos. Esto puede proporcionar una cobertura adicional a tu emprendimiento.
Conclusiones
La intervención del gobierno estadounidense en la operación de Anthropic enfatiza la intersección crítica entre la innovación tecnológica y las preocupaciones de seguridad nacional. En tiempos donde la inteligencia artificial está en auge, las empresas deben ser diligentes no solo en su desarrollo, sino también en cómo presentan sus productos al mundo. Las medidas de seguridad y las aperturas hacia la transparencia son esenciales para evitar malentendidos y posibles intervenciones institucionales.