El Consejo de Supervisión de Meta ha instado a la empresa a fortalecer la protección de los usuarios no célebres contra el uso de deepfakes sexualizados generados por inteligencia artificial (IA) en sus plataformas, especialmente en Instagram. Esta solicitud se produce luego de que Meta decidiera mantener un video que suplantaba la identidad de una mujer y que fue identificado como contenido dañino. A raíz de ello, el organismo ha señalado la necesidad de establecer políticas más estrictas para abordar esta problemática creciente.
El Problema de los Deepfakes Sexualizados
El auge de la inteligencia artificial ha facilitado la creación de contenido sexualizado no consensual, que, en muchas ocasiones, afecta de manera desproporcionada a mujeres y niñas. En un caso específico ocurrido en septiembre de 2025, un video de ocho segundos fue publicado en Instagram, en el que aparecía una mujer en situaciones comprometedoras, generado artificialmente. A pesar de que el sistema automatizado de Meta identificó el contenido como potencialmente dañino, no se llevó a cabo una revisión humana suficiente.
Reacción de los Usuarios y Decisión de Meta
Después de que dos usuarios denunciaron el video, Meta decidió mantenerlo activo en la plataforma, argumentando que no había pruebas de que la persona en el video hubiera hecho una denuncia. Esto ha sido criticado por el Consejo de Supervisión, que ha remarcado que la suplantación de identidad generada por IA siempre debe considerarse no consensual.
Revocación de la Decisión de Meta
El Consejo de Supervisión ha revisado el caso y calificado la decisión original de Meta como incorrecta. Según su política sobre contenido íntimo no consensuado, se deben considerar ciertos criterios para identificar este tipo de publicaciones. La falta de un reporte formal por parte de la persona en el video no debería ser una excusa para dejar contenido dañino en la plataforma.
Críticas a la Falta de Medidas Efectivas
El organismo ha señalado que existe una necesidad urgente de adaptar las políticas de moderación de Meta para abordar específicamente el tema de deepfakes sexualizados. Sugieren que se amplíen las señales de falta de consentimiento para poder ofrecer una mejor protección a quienes no son figuras públicas y son vulnerables a este tipo de abusos.
Recomendaciones para Endurecer las Políticas
El Consejo ha instado a Meta a implementar diversas medidas:
Designación de Cuentas Conectadas
Permitir que los usuarios designen ‘Cuentas conectadas’ para que amigos o familiares puedan reportar contenido dañino en su nombre. Esto ayudaría a las víctimas a abordar situaciones difíciles sin poner en riesgo su bienestar emocional.
Inclusión de Nuevas Categorías en los Formularios de Denuncia
Es crucial que se incluya la suplantación de identidad sexualizada generada por IA como una categoría separada en los formularios de denuncia. Esto facilitaría un mejor manejo de estos casos y daría voz a quienes son víctimas.
Consejos para Emprendedores y Negocios
-
Establecer Políticas de Protección: Las empresas deben desarrollar políticas que protejan a los empleados y clientes de cualquier forma de abuso digital, incluyendo el uso no consensual de imágenes o videos.
-
Incorporar Tecnología de IA para Monitoreo: Utilizar herramientas avanzadas de IA para detectar contenido inapropiado en plataformas puede ser un paso vital para proteger a la comunidad.
-
Educar sobre las Implicaciones de la IA: Invertir en programas de sensibilización sobre el uso ético de la inteligencia artificial puede ayudar a mitigar abusos y fomentar un ambiente más seguro en línea.
-
Escuchar a la Comunidad: Establecer canales de comunicación directos para que los usuarios puedan expresar sus preocupaciones y sugerencias sobre la moderación del contenido.
- Asociaciones con Expertos: Colaborar con expertos en derechos digitales y seguridad en línea puede ser una estrategia efectiva para mejorar las políticas de moderación.
Conclusiones
La situación generada en torno al caso de deepfakes sexualizados refleja una falta de protección adecuada para quienes no son figuras públicas. Es imperativo que las plataformas como Meta respondan con políticas robustas y procedimientos claros para abordar esta problemática. La implementación de recomendaciones del Consejo de Supervisión podría ser un primer paso importante hacia un entorno digital más seguro y responsable.