UNICEF ha expresado su creciente preocupación por el aumento acelerado de imágenes sexualizadas generadas por inteligencia artificial (IA). Esta inquietud abarca casos donde fotografías de niños y niñas han sido manipuladas, creando contenidos que pueden considerarse material de abuso sexual infantil. La organización advierte que, aunque estas imágenes sean generadas o alteradas digitalmente, el daño que causan es real y preocupante. Por ello, solicita a los gobiernos y desarrolladores que implementen medidas más severas para abordar este fenómeno.
Preocupaciones de UNICEF sobre la IA y el abuso infantil
Aumento del contenido sexualizado generado por IA
UNICEF ha alertado sobre el rápido aumento de imágenes generadas por IA que sexualizan a menores. Esta preocupación se ha intensificado a medida que los deepfakes —imágenes, videos o audios manipulados para parecer reales— son utilizados para crear contenido sexualmente explícito en el que aparecen niños y niñas. Estos contenidos incluyen la nudificación, un proceso mediante el cual se retira o altera la ropa de las personas en las fotos para crear imágenes de desnudos falsos.
Urgencia de la acción gubernamental
La ONG enfatiza que estas imágenes manipuladas siguen constituyendo abuso sexual y solicita que los gobiernos amplíen sus definiciones de lo que constituye material de abuso sexual, incluyendo específicamente contenido generado por IA. Además, pide que se tomen acciones legales que penalicen la creación, posesión y distribución de este tipo de contenido.
Propuestas de seguridad para desarrolladores de IA
UNICEF insta a los desarrolladores a implementar enfoques de seguridad desde el diseño y a establecer medidas que prevengan el uso indebido de los modelos de IA. Se recomienda a las empresas tecnológicas mejorar la moderación de contenidos invirtiendo en tecnologías avanzadas que permitan la detección y eliminación de material abusivo de manera rápida, antes de que cause un daño permanente a las víctimas.
Estadísticas alarmantes sobre el abuso mediante deepfakes
Según un estudio realizado en 11 países por UNICEF, ECPAT y INTERPOL, se revela que 1,2 millones de niños manifestaron que sus imágenes habían sido manipuladas para crear deepfakes sexualmente explícitos en el último año. En algunos países, esta cifra se traduce en 1 de cada 25 menores, lo cual es alarmante al representar aproximadamente a uno de cada aula escolar.
Preocupación de los menores
El informe también indica que hasta dos tercios de los menores encuestados expresaron su temor ante la posibilidad de que la IA sea utilizada para crear imágenes o videos sexuales falsos. Esta situación resalta la urgente necesidad de reforzar medidas de sensibilización, prevención y protección para los niños.
Consejos para emprendedores y negocios
-
Desarrollo de Software Ético: Para los emprendedores en el sector tecnológico, es crucial desarrollar software de IA con consideraciones éticas. Esto significa implementar medidas que prevengan el abuso de la tecnología, especialmente en contextos tan sensibles como el de los menores.
-
Educación y concienciación: Promover la educación digital sobre los riesgos de la IA, especialmente en entornos escolares o familiares. Las empresas pueden desarrollar programas educativos que informen a los niños y padres sobre el uso seguro de la tecnología.
-
Colaboración con Organizaciones: Establecer alianzas con organizaciones como UNICEF y ECPAT para contribuir a campañas de prevención y sensibilización. Esto no solo mostrará el compromiso social de la empresa, sino que también ayudará a generar un entorno más seguro para los menores.
- Innovaciones en Moderación de Contenidos: Invertir en tecnologías de moderación de contenidos que permitan detectar y eliminar material abusivo de manera eficaz y proactiva, buscando no solo el cumplimiento de regulaciones, sino también proteger a las comunidades más vulnerables.
Conclusiones
La preocupación de UNICEF sobre el aumento de imágenes sexualizadas generadas por inteligencia artificial es un llamado a la acción para gobiernos, desarrolladores y empresas. El uso de la IA en la creación de deepfakes que afectan a menores es un tema que requiere atención inmediata y regulaciones estrictas. Con un enfoque colaborativo entre las distintas partes interesadas y el compromiso con prácticas de tecnología ética, es posible crear un entorno más seguro para todos.