Las Aplicaciones de Generación de Desnudos con IA en Play Store y App Store
Recientemente, una investigación del Tech Transparency Project (TTP) ha puesto de manifiesto la disponibilidad de alrededor de 50 aplicaciones en las tiendas de aplicaciones Play Store de Google y App Store de Apple que permiten la generación de desnudos utilizando inteligencia artificial (IA), a pesar de que estas empresas cuentan con políticas que prohíben este tipo de contenido. A continuación, se detalla la situación, las implicaciones y consejos para los emprendedores y negocios en este contexto.
La Revelación del TTP
Hallazgos de la Investigación
El informe del TTP señala que, a pesar de la creciente preocupación por la creación de imágenes explícitas a través de la IA, tanto Google como Apple han mantenido 55 aplicaciones en la Play Store y 47 en la App Store que facilitan esta actividad. La aplicación más destacada en este contexto es Grok, un chatbot de X (anteriormente Twitter), que ha generado miles de imágenes explícitas, algunas de ellas que involucran a menores de edad.
Métodos de Búsqueda
Para identificar estas aplicaciones, TTP realizó búsquedas utilizando términos como «nudify» y «undress«. Las aplicaciones se clasifican en dos categorías:
- Generación de imágenes y videos: Las que producen contenido a solicitud del usuario.
- Deepfakes: Aquellas que superponen la cara de una persona sobre el cuerpo de otra.
Entre las aplicaciones más populares se encuentra DreamFace, que permite la generación de avatares y videos de baile, llegando a acumular más de 10 millones de descargas.
Accesibilidad y Riesgos
Es preocupante que DreamFace esté disponible para usuarios a partir de 13 años en la Play Store y 9 años en la App Store, lo que da acceso a los niños para generar imágenes inapropiadas sin restricciones significativas.
Ingresos y Popularidad de Estas Aplicaciones
El análisis de TTP revela que estas aplicaciones han conseguido un total de 705 millones de descargas, generando ingentes 117 millones de dólares en ingresos. A pesar de que tanto Apple como Google afirman prohibir este tipo de aplicaciones, el TTP ha denunciado que las empresas se benefician económicamente de su circulación.
Políticas de Contenido
Las políticas de ambas plataformas prohíben el contenido sexual y las aplicaciones que comparten desnudos sin consentimiento. Sin embargo, la proliferación de estas apps es un claro indicativo de la inconsistencia entre lo que se permite y lo que se prohíbe.
Respuestas de Google y Apple
Tras la publicación del informe, ambos gigantes tecnológicos han reaccionado. Apple ha retirado 28 aplicaciones, mientras que Google ha suspendido un total de 31 aplicaciones. Esta respuesta surge en medio de un contexto de investigaciones por parte de gobiernos e instituciones que buscan abordar la problemática de las imágenes sexualizadas generadas por IA.
Consejos para Emprendedores y Negocios
-
Conocimiento del Mercado: Mantente actualizado sobre las políticas de contenido de las plataformas donde ofreces tus servicios para evitar sanciones y cerciorarte de que tu producto no viole ninguna norma.
-
Ética en el Desarrollo de Apps: Evita crear aplicaciones que permitan la manipulación de imágenes de manera que comprometa la privacidad o dignidad de las personas, especialmente los menores de edad.
-
Fomenta un Entorno Seguro: Si estás desarrollando tecnología basada en IA, implementa sistemas de vigilancia y filtros que eviten el uso malintencionado de tus herramientas.
-
Comunicación Transparente: Si tu aplicación permite la creación de contenido sensible, asegúrate de comunicar claramente las condiciones de uso y los límites para los usuarios.
- Desarrollo de Recursos Educativos: Educa a los usuarios sobre las implicaciones y riesgos de la manipulación de imágenes y promueve el uso consciente y responsable de la tecnología.
Conclusiones
El auge de aplicaciones que permiten la generación de desnudos mediante IA resalta una incongruencia en las políticas de contenido de las principales tiendas de aplicaciones. A pesar de las acciones recientes de Google y Apple para eliminar algunas de estas aplicaciones, queda latente la cuestión de cómo se puede regular de mejor manera el contenido generado por IA. Para los emprendedores y desarrolladores, es crucial entender las implicaciones éticas y legales de sus productos y buscar crear un entorno más seguro y responsable para sus usuarios.