El CEO de OpenAI, Sam Altman, anunció a última hora del viernes que su empresa ha llegado a un acuerdo que permite al Departamento de Defensa de los Estados Unidos utilizar sus modelos de inteligencia artificial en la red clasificada del departamento. Este anuncio se produce después de un enfrentamiento de alto perfil entre el departamento y el rival de OpenAI, Anthropic, que había insistido en la limitación del uso de su tecnología para evitar la vigilancia masiva y el desarrollo de sistemas de armas autónomas.
Acuerdo entre OpenAI y el Departamento de Defensa
Contexto de la disputa
El Departamento de Defensa, anteriormente conocido como el Departamento de Guerra bajo la administración de Donald Trump, había presionado a las empresas de inteligencia artificial, incluyendo a Anthropic, para que permitieran el uso de sus modelos para “todos los fines legales”. Desde Anthropic, su CEO, Dario Amodei, argumentó que la compañía nunca se opuso a operaciones militares específicas, pero sostuvo que “en un conjunto limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos.”
Respaldo a Anthropic
Más de 60 empleados de OpenAI y 300 de Google firmaron una carta abierta pidiendo a sus empleadores que apoyaran la posición de Anthropic. Tras el fallo en las negociaciones entre Anthropic y el Pentágono, Trump criticó públicamente a la empresa, además de ordenar a las agencias federales que dejaran de utilizar sus productos.
Declaraciones del Departamento de Defensa
El Secretario de Defensa, Pete Hegseth, acusó a Anthropic de intentar “tomar poder de veto sobre las decisiones operativas del ejército de Estados Unidos” y designó a la empresa como un riesgo en la cadena de suministro. Como resultado, se prohibió a cualquier contratista que trabaje con el ejército estadounidense llevar a cabo actividades comerciales con Anthropic.
Reacción de Anthropic
Anthropic afirmó que aún no había recibido comunicación directa del Departamento de Defensa o de la Casa Blanca sobre el estado de las negociaciones, pero que estaban dispuestos a combatir en los tribunales cualquier designación de riesgo en la cadena de suministro.
Innovaciones en el Contrato de Defensa de OpenAI
Alineación de principios
Altman proporcionó información adicional sobre el nuevo contrato de defensa de OpenAI, afirmando que incluye protecciones contra la vigilancia masiva y subrayando la responsabilidad humana en el uso de la fuerza, principios que el Departamento de Defensa también acepta. Altman agregó que OpenAI implementará salvaguardias técnicas para asegurar que sus modelos actúen según lo previsto.
Propuesta de estándares comunes
Altman resaltó que están buscando que el Departamento de Defensa ofrezca estos mismos términos a todas las empresas de inteligencia artificial, sugiriendo que todos deberían estar dispuestos a aceptarlos para evitar acciones legales y gubernamentales.
Consejos para emprendedores y negocios
-
Establecer principios claros: Reconocer la importancia de establecer y comunicar principios éticos y de seguridad desde el principio, especialmente en sectores sensibles como la defensa.
-
Colaboración en el sector: Fomentar la colaboración con otros actores de la industria para un enfoque unificado sobre cómo la inteligencia artificial puede utilizarse de manera responsable.
-
Prepararse para la regulación: Estar al tanto de los cambios regulatorios y ser proactivos en adaptarse a ellos, lo que puede construir una mayor confianza entre los reguladores y las empresas.
- Invertir en seguridad: Desarrollar capacidades internas para prevenir posibles abusos de la tecnología y garantizar que las soluciones ofrecidas cumplen con los estándares más altos de seguridad.
Conclusiones
La reciente alianza de OpenAI con el Departamento de Defensa refleja un cambio significativo en cómo las empresas de inteligencia artificial interactúan con las entidades gubernamentales. Este acuerdo no solo aborda temas de seguridad, sino que también sienta un precedente sobre cómo podrían evolucionar las colaboraciones futuras entre la industria tecnológica y el gobierno. La potencial presión de los empleados y la oposición de competidores, como Anthropic, destaca la necesidad de que las empresas equilibren el deseo de innovación con la responsabilidad ética en sus desarrollos. Las lecciones sacadas de esta situación pueden guiar a otras startups y empresas emergentes en la creación de un futuro más responsable y sostenible en el ámbito de la tecnología.