El repositorio de modelos de Inteligencia Artificial (IA), Hugging Face, se ha convertido en foco de polémicas debido al uso indebido de sus herramientas para generar ‘deepfakes’ no consensuados, particularmente imágenes que desnudan a mujeres y menores. A pesar de que otras plataformas cuentan con medidas de seguridad, Hugging Face ha sido criticado por la falta de salvaguardias en este sentido.
Revelaciones sobre Hugging Face
Informe de AI Forensics
Un reciente informe de la organización sin fines de lucro AI Forensics ha expuesto que siete de los nueve modelos más populares de edición de imágenes en Hugging Face permiten que usuarios generen imágenes inapropiadas con solo introducir ciertas palabras. Esto contrasta con plataformas como Gemini de Google y ChatGPT de OpenAI, donde existen medidas para prevenir abusos similares.
Falta de medidas de seguridad
Según Paul Bouchaud, investigador principal de AI Forensics, «no se está implementando ningún tipo de salvaguarda a nivel de plataforma”. Este hecho ha suscitado preocupaciones sobre los responsables de la moderación en la plataforma, donde la mayoría de los desarrolladores optan por no incluir filtros de protección.
Datos alarmantes
AI Forensics desarrolló una herramienta ‘trampa’ dentro de Hugging Face que tenía la función de rastrear solicitudes y imágenes. Durante una semana, se recibieron más de mil entradas, revelando que:
- 73% de las solicitudes eran de índole sexual.
- 83% buscaba desnudar a personas.
- 95% de estos casos estaban dirigidos a mujeres.
- 7% de estas solicitudes sexuales tenían como blanco a menores.
Conclusiones sobre la plataforma
AI Forensics no acusa a Hugging Face de ser responsable directo de los modelos de IA, pero enfatiza que la plataforma podría fácilmente incrementar su control sobre los tipos de contenido que se generan.
Recomendaciones para la moderación
AI Forensics sugiere que Hugging Face implemente una serie de medidas de filtros centralizados tanto en las entradas de ‘prompts’ como en las salidas de imágenes y vídeos. Destaca que:
- 0% de los Spaces auditados moderaban o filtraban los prompts de entrada.
- Solo 3% de las salidas generadas contaba con algún control, una función que podría implementarse de manera más estricta.
Consejos para emprendedores y negocios
-
Incorporar medidas de seguridad: Si desarrollas o utilizas modelos de IA, asegúrate de incluir filtros que prevengan el uso indebido, especialmente en plataformas públicas.
-
Fomentar la ética en la tecnología: Establece un código de ética para el uso de IA en tu negocio. Esto ayudará a que todos los empleados sean conscientes de la importancia de la responsabilidad en el desarrollo y la implementación de la tecnología.
-
Capacitación y concienciación: Educa a tus equipos sobre las implicaciones legales y éticas del uso de IA. Esto incluye la comprensión de la privacidad y la integridad de las personas.
- Colaborar con expertos: Trabaja con organizaciones como AI Forensics para realizar auditorías de tus herramientas de IA y asegúrate de que las prácticas de moderación sean efectivas.
Conclusión
La situación actual en Hugging Face revela una brecha significativa en la moderación de modelos de IA. Ante los riesgos de deepfakes y el contenido no consensuado, es fundamental que tanto desarrolladores como plataformas implementen medidas efectivas para proteger a los usuarios y evitar el abuso de estas tecnologías. El compromiso ético y la responsabilidad en el uso de la IA son clave para un futuro más seguro y responsable.