Un grupo de investigadores de ciberseguridad de Hacktron AI ha logrado acceder al sistema interno de código de OpenAI, utilizando la inteligencia artificial Claude de la empresa competidora Anthropic. Este acceso ha puesto de manifiesto varias vulnerabilidades que amenazan la seguridad de los repositorios de código de OpenAI. A raíz de su descubrimiento, Hacktron AI ha alertado a la compañía sobre los fallos, recibiendo una recompensa de $6,500 por sus hallazgos.
Acceso a los Sistemas de OpenAI
El grupo Hacktron AI, dedicado a buscar agujeros de seguridad, logró acceder a la cuenta de ChatGPT de un empleado de OpenAI. Esta acción les permitió leer y sugerir cambios en la memoria caché de software privado de OpenAI. Los investigadores encontraron dos vulnerabilidades clave: una relacionada con el servicio de terceros que aloja el foro de discusión de OpenAI, Discourse, y otra debido a una configuración incorrecta en el sistema de autenticación SSO de OpenAI.
Detalles del Proceso de Hacking
La investigación comenzó el 23 de julio, cuando Hacktron AI identificó un error en el proceso de carga de ciertos formatos de imágenes en Discourse. Utilizando la versión avanzada de Claude Opus 4.8, los investigadores no pudieron generar un código para explotar la vulnerabilidad. Sin embargo, con Claude Opus 5 lograron desarrollar un enfoque exitoso para llevar a cabo un ciberataque.
El acceso al servidor de Discourse les permitió obtener tokens de autenticación, lo que facilitó el acceso a la cuenta de un empleado de OpenAI que tenía conexión con la infraestructura de la compañía en GitHub. Desde allí, pudieron enviar una solicitud de extracción que los condujo a acceder al repositorio interno de código privado de OpenAI, lo que les permitió leer los archivos internos.
Evaluación de Riesgos
Los investigadores han resaltado que la vulnerabilidad no es exclusiva de Discourse, sino un problema potencial que podría comprometer cualquier servicio de OpenAI que utilice su autenticación SSO. Esto podría permitir un acceso no autorizado si se compromete un servicio, sean estos internos o de terceros.
Respuesta de OpenAI
OpenAI ha agradecido a los investigadores por compartir sus hallazgos y ha confirmado que se han solucionado los fallos detectados. Han restringido los permisos de los tokens de inicio de sesión de comunidad y han revocado los tokens y sesiones que se vieron comprometidos. Discourse también solucionó la vulnerabilidad en cuestión de días.
Consejos para Emprendedores y Negocios
-
Implementar Auditorías de Seguridad Regularmente: Es fundamental realizar auditorías de seguridad para identificar y corregir vulnerabilidades antes de que sean explotadas por terceros.
-
Uso de Herramientas de IA para la Seguridad: Considerar la implementación de herramientas de IA que detecten anomalías en sistemas y protejan la infraestructura de datos.
-
Formación de Personal: Capacitar al personal sobre las estrictas políticas de seguridad y las mejores prácticas para evitar errores que puedan llevar a brechas de seguridad.
-
Colaboración con Expertos en Ciberseguridad: Trabajar con consultores de seguridad o empresas especializadas que puedan proporcionar una visión externa sobre vulnerabilidades potenciales.
- Respaldo de Datos y Sistemas: Siempre tener copias de seguridad de datos críticos y sistemas, y probar regularmente estos respaldos para asegurar su integridad.
Conclusiones
El acceso no autorizado a los sistemas de OpenAI por parte de Hacktron AI pone de relieve la creciente importancia de la ciberseguridad en el sector tecnológico, especialmente a medida que avanzan las capacidades de la inteligencia artificial. Esta situación es un recordatorio claro de que las empresas deben mantenerse proactivas en la identificación y resolución de vulnerabilidades. La colaboración y la transparencia entre empresas y expertos en seguridad son esenciales para proteger los sistemas y datos críticos en el mundo digital actual.