Amazon ha estado en el centro de una controversia relacionada con sus preocupaciones de seguridad sobre los modelos de inteligencia artificial de Anthropic, lo que llevó al gobierno de EE. UU. a imponer restricciones a su uso. El CEO de Amazon, Andy Jassy, alertó a altos funcionarios del gobierno sobre la posibilidad de que se usara el modelo Claude Fable 5 de Anthropic para realizar ciberataques, lo que resultó en una prohibición de exportación de este y otros modelos de la empresa.
Detalles de la situación
Reuniones con miembros del gobierno
El Wall Street Journal informa que Jassy discutió con el Secretario del Tesoro, Scott Bessent, y otros funcionarios sobre los riesgos de seguridad asociados con las tecnologías de Anthropic. En este contexto, Amazon, que es un inversor significativo en Anthropic, expresó su preocupación sobre el uso potencial de los modelos para actividades maliciosas.
Impacto de las preocupaciones de seguridad
Como resultado de estas discusiones, el gobierno estadounidense decidió restringir el acceso a los modelos Fable 5 y Mythos 5 de Anthropic. Un portavoz de Amazon comentó que, aunque no es inusual que los gobiernos busquen la asesoría de la empresa sobre riesgos de seguridad, no pueden divulgar los detalles de tales discusiones.
Testimonio de David Sacks
David Sacks, exzar de inteligencia artificial en la administración de Trump y actual copresidente del Consejo de Asesores sobre Ciencia y Tecnología del Presidente, relató su versión de los eventos. Indicó que un «socio de confianza» había aportado información sobre un posible «jailbreak» que podría comprometer la seguridad del modelo. Según Sacks, la administración solicitó a Dario Amodei, CEO de Anthropic, que resolviera el problema, pero Amodei se negó a desplegar el modelo.
Consejos para emprendedores y negocios
-
Mantenerse informado sobre regulaciones: Es crucial comprender las implicaciones legales y de seguridad de las tecnologías que se están utilizando en el negocio. Mantente al tanto de las normativas y mejores prácticas en ciberseguridad.
-
Establecer relaciones sólidas con el gobierno: Trabajar en colaboración con entidades gubernamentales puede proporcionar una ventaja competitiva y asegurar acceso a recursos y conocimientos importantes.
-
Invertir en capacitación: Forma a tu equipo en cuestiones de ciberseguridad y riesgos asociados con las herramientas tecnológicas que utilizan, para reducir la posibilidad de ser víctimas de ciberataques.
- Escuchar las preocupaciones de los inversores: Las inquietudes expresadas por inversores importantes, como en el caso de Amazon y Anthropic, deben tomarse en cuenta y abordarse proactivamente.
Conclusiones
La situación actual entre Amazon y Anthropic subraya la necesidad de ser cauteloso y responsable en el desarrollo y uso de tecnologías avanzadas como la inteligencia artificial. Las preocupaciones de seguridad no solo afectan a las empresas implicadas, sino que pueden tener un impacto más amplio en la industria y en la confianza pública. Es esencial que los emprendedores y negocios entiendan estos aspectos y tomen medidas para asegurarse de que sus operaciones sean seguras y responsables.