La Senadora Elizabeth Warren (D-MA) envió una carta al Secretario de Defensa, Pete Hegseth, expresando su preocupación por la decisión del Pentágono de proporcionar acceso a redes clasificadas a la empresa de Elon Musk, xAI. En la carta, Warren resaltó la existencia de Grok, un modelo de inteligencia artificial (IA) desarrollado por xAI, que ha generado salidas inquietantes, incluyendo consejos sobre cómo cometer asesinatos y ataques terroristas, así como la producción de contenido antisemita y material de abuso sexual infantil.
Preocupaciones sobre la IA de xAI
La carta detalla que la «aparente falta de guardias adecuadas» de Grok podría presentar «serios riesgos para la seguridad del personal militar en EE.UU. y para la ciberseguridad de los sistemas clasificados». Warren requirió a Hegseth información sobre cómo el Departamento de Defensa planea «mitigar estos posibles riesgos para la seguridad nacional«.
Antecedentes de las preocupaciones
Warren no fue la primera persona en mostrar alarma ante el acceso de Grok, el chatbot controvertido de xAI, a sistemas clasificados. El mes pasado, una coalición de organizaciones sin fines de lucro exigió al gobierno que suspendiera de inmediato el despliegue de Grok en agencias federales, incluyendo el DoD, después de que usuarios de X (anteriormente Twitter) provocaron al chatbot para generar imágenes sexualizadas de mujeres y, en algunos casos, niños, sin su consentimiento.
Además, el mismo día que Warren envió su carta, se presentó una demanda colectiva contra xAI, alegando que Grok había generado contenido sexual a partir de imágenes reales de los demandantes cuando eran menores.
El contexto del acceso a sistemas clasificados
Esta carta se produce tras la decisión del Pentágono de etiquetar a Anthropic como un riesgo de cadena de suministro después de que la empresa de IA se negó a otorgar al ejército acceso ilimitado a sus sistemas de IA. Anthropic había sido, hasta hace poco, la única empresa de IA con sistemas listos para clasificados. En medio de este conflicto, el DoD firmó un acuerdo tanto con OpenAI como con xAI para utilizar los sistemas de IA de ambas compañías en redes clasificadas.
Un alto funcionario del Pentágono confirmó que Grok estaba preparado para ser utilizado en entornos clasificados, aunque todavía no se estaba utilizando. Warren cuestionó qué garantías o documentación xAI había proporcionado sobre las salvaguardias de seguridad, prácticas de manejo de datos y controles de seguridad de Grok, y si el DoD había evaluado esas garantías antes de permitir el acceso de Grok a sistemas clasificados.
Demandas de información
Warren solicitó una copia del acuerdo alcanzado entre el DoD y xAI sobre el uso de Grok en sistemas clasificados, así como una explicación sobre cómo el departamento planea asegurarse de que Grok no esté expuesto a ciberataques y que «no filtre información sensible o clasificada militar».
Conclusiones y consejos para emprendedores
Ante la creciente preocupación por la seguridad en el uso de tecnologías de IA, los emprendedores deben tener en cuenta varios aspectos:
- Transparencia: Siempre es fundamental tener una política clara sobre la seguridad y el manejo de datos.
- Regulaciones: Mantenerse informado sobre las regulaciones y políticas relacionadas con la IA y la privacidad de datos.
- Estrategias de mitigación: Implementar estrategias para mitigar riesgos potenciales para proteger tanto a los usuarios como a la empresa.
- Colaboración: Trabajar en conjunto con entidades reguladoras y expertos en ciberseguridad para desarrollar soluciones más seguras.
- Educación continua: Invertir en capacitación para el personal sobre las implicaciones de la IA y la seguridad de datos.
A medida que las preocupaciones sobre la IA continúan creciendo, es crucial que las empresas y los emprendedores aborden estos temas con seriedad y responsabilidad para construir un futuro más seguro y ético en el ámbito tecnológico.