Anthropic ha acusado a tres empresas chinas de inteligencia artificial (IA) de haber creado más de 24,000 cuentas falsas con su modelo Claude para mejorar sus propios modelos. Estas acusaciones están surgiendo en un contexto de debate sobre cómo hacer cumplir con rigor los controles de exportación sobre los chips de IA avanzados, con el fin de frenar el desarrollo de la IA en China.
Acusaciones y técnicas utilizadas
Las empresas implicadas
Las empresas en cuestión son DeepSeek, Moonshot AI y MiniMax. Se reporta que estas firmas generaron más de 16 millones de intercambios con Claude a través de cuentas falsas utilizando una técnica conocida como «destilación». Anthropic ha señalado que estas empresas se centraron en las capacidades diferenciadas de Claude: razonamiento agente, uso de herramientas y codificación.
Métodos de destilación
La destilación es un método común utilizado por los laboratorios de IA para entrenar modelos. Esta técnica permite crear versiones más pequeñas y económicas de modelos, pero también puede ser utilizada por competidores para copiar los desarrollos de otros. Recientemente, OpenAI acusó a DeepSeek de emplear destilación para imitar sus productos.
Impacto de los ataques
Anthropic ha detectado diferentes niveles de ataques. Por ejemplo, DeepSeek realizó más de 150,000 intercambios centrados en mejorar la lógica fundamental y la alineación, especialmente en torno a alternativas adecuadas a consultas sensibles a políticas. En contraste, Moonshot AI registró más de 3.4 millones de intercambios enfocados en razonamiento agente y uso de herramientas. MiniMax, por su parte, orientó 13 millones de intercambios hacia la codificación y orquestación de herramientas.
Reacciones y estrategias de defensa
Respuesta de Anthropic
Anthropic ha afirmado que continuará invirtiendo en defensas para dificultar la ejecución de ataques de destilación y facilitar su identificación. La empresa también ha hecho un llamado a una respuesta coordinada en toda la industria de la IA, proveedores de la nube y responsables de políticas.
Controversias sobre exportaciones de chips
Los ataques de destilación coinciden con un momento en el que las exportaciones de chips estadounidenses a China son objeto de intenso debate. Recientemente, la administración de Trump permitió a empresas como Nvidia exportar chips de IA avanzados a China, lo que ha generado críticas sobre la posibilidad de que esto aumente la capacidad de computación de la IA en el país asiático.
Los riesgos para la seguridad nacional
Anthropic ha advertido que los modelos construidos a través de destilación ilícita podrían suponer riesgos de seguridad nacional, ya que no incluirían las salvaguardias necesarias que las empresas estadounidenses intentan aplicar para prevenir el uso malintencionado de la IA.
Consejos para emprendedores y negocios
-
Monitoreo constante: Mantener un seguimiento proactivo de las técnicas y tendencias emergentes en el desarrollo de IA para identificar posibles amenazas o oportunidades en el mercado.
-
Protección de propiedad intelectual: Implementar medidas robustas de protección de la propiedad intelectual para minimizar el riesgo de que competidores puedan realizar ataques de distilación o copiar innovaciones.
-
Colaboración entre empresas: Fomentar alianzas estratégicas entre diferentes empresas de la industria para compartir información y recursos que ayuden a desarrollar defensas más efectivas contra ataques de este tipo.
- Cumplimiento normativo: Estar al tanto de la normativa y regulaciones sobre la exportación de tecnología, así como adaptar los modelos de negocio a las restricciones internacionales existentes.
Conclusiones
Las acusaciones de Anthropic hacia estas empresas chinas subrayan la complejidad del panorama competitivo en el campo de la IA. La técnica de destilación, aunque común, puede ser usada de manera poco ética para obtener ventajas desleales. La necesidad de controles más estrictos en la exportación de tecnología y la protección de los desarrollos de IA se hace evidente, especialmente ante los riesgos para la seguridad nacional que pueden derivarse de estos ataques. Emprendedores y empresas deben adoptar estrategias proactivas para proteger sus innovaciones y adaptarse a estos desafíos.