La Agencia de Seguridad Nacional (NSA) de Estados Unidos estaría utilizando Mythos Preview, un modelo recientemente anunciado por Anthropic, que no fue liberado al público. Esta información fue reportada por Axios y surge semanas después de que el Departamento de Defensa, la agencia madre de la NSA, etiquetara a Anthropic como un “riesgo para la cadena de suministro”, debido a que la compañía se negó a permitir que los funcionarios del Pentágono accedieran sin restricciones a las capacidades completas de su modelo.
¿Qué es Mythos y su importancia?
Mythos fue presentado por Anthropic como un modelo pionero diseñado para tareas de ciberseguridad. Sin embargo, la compañía argumentó que sus capacidades para realizar ciberataques ofensivos eran demasiado potentes para ser divulgadas públicamente. Como resultado, el acceso al modelo se limitó a unas 40 organizaciones, de las cuales solo se han hecho públicas una docena.
Uso de Mythos por parte de la NSA
La NSA parece ser uno de los destinatarios no divulgados de Mythos, y se informa que lo utiliza principalmente para escanear entornos en busca de vulnerabilidades explotables. Además, el Instituto de Seguridad AI del Reino Unido ha confirmado que también tiene acceso a este modelo.
Controversia en torno a las herramientas de Anthropic
El creciente uso por parte del militar estadounidense de las herramientas de Anthropic se contrapone a su argumentación en los tribunales sobre que tales herramientas pueden representar una amenaza a la seguridad nacional. Este conflicto tuvo origen cuando Anthropic se negó a proporcionar su modelo Claude para la vigilancia masiva y el desarrollo de armas autónomas.
La relación entre Anthropic y la administración Trump
La relación de Anthropic con la administración de Trump parece estar mejorando. El pasado viernes, el CEO de Anthropic, Dario Amodei, se reunió con la jefa de personal de la Casa Blanca, Susie Wiles, y con el Secretario del Tesoro, Scott Bessent. El encuentro fue reportado como productivo por la Casa Blanca.
Consejos para emprendedores y negocios
-
Innovación responsable: Si estás en el ámbito de la inteligencia artificial o ciberseguridad, considera las implicaciones éticas y de seguridad de tus desarrollos, especialmente si son de la naturaleza sensibles.
-
Establecimiento de límites: Al igual que Anthropic, es vital establecer límites claros en el acceso a tu tecnología, especialmente si esta puede ser utilizada para fines no éticos.
-
Colaboraciones estratégicas: Formar alianzas con entidades gubernamentales o de seguridad puede abrir nuevas oportunidades, pero hazlo cuidando siempre tu propiedad intelectual.
-
Preparación para controversias: A medida que tu tecnología evoluciona, prepárate para posibles críticas o controversias, especialmente si tu producto puede tener usos duales.
- Conexiones en la industria: Mantén una red activa de contactos en el sector, esto puede ser crucial para el crecimiento y para compartir buenas prácticas.
Conclusiones
La relación de la NSA con Anthropic y su modelo Mythos subraya el papel creciente que juega la inteligencia artificial en la seguridad nacional. Los desarrolladores y emprendedores en el sector tecnológico deben considerar cuidadosamente las implicaciones éticas y los límites necesarios para mantener la responsabilidad en sus innovaciones. La colaboración con entidades gubernamentales puede ofrecer oportunidades significativas, pero también conlleva riesgos que deben ser gestionados con prudencia.