El gobierno de India ha ordenado a X, la plataforma de redes sociales de Elon Musk, que implemente de forma inmediata cambios técnicos y procedimentales en su chatbot de inteligencia artificial Grok. Esta decisión se ha tomado después de que usuarios y legisladores señalaran la generación de contenido «obsceno», entre el que se incluyen imágenes de mujeres alteradas con inteligencia artificial.
Orden del Ministerio de TI
El viernes, el Ministerio de Tecnología de la Información de India emitió una orden que exige a X tomar medidas correctivas sobre Grok. Esto incluye la restricción de la generación de contenido relacionado con «nudidad, sexualización, contenido sexualmente explícito o material ilegal». La plataforma tiene un plazo de 72 horas para presentar un informe que detalla las acciones tomadas para prevenir el alojamiento o la difusión de contenido considerado «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por ley.»
Consecuencias de no cumplir
La orden destaca que el incumplimiento podría comprometer las protecciones de «puerto seguro» de X, que ofrecen inmunidad legal sobre el contenido generado por los usuarios bajo la legislación india.
Preocupaciones de los usuarios
La decisión del gobierno se deriva de preocupaciones expresadas por usuarios que compartieron ejemplos de cómo Grok estaba alterando imágenes de individuos, principalmente mujeres, para que parecieran estar vistiendo bikinis. Esta situación llevó a una queja formal de la parlamentaria india Priyanka Chaturvedi. Además, informes recientes señalaron que el chatbot generó imágenes sexualizadas que involucraban a menores, un problema que X reconoció como resultado de fallos en las salvaguardias. Aunque estas imágenes fueron eliminadas, en el momento de la publicación, las imágenes que hacían que las mujeres parecieran llevar bikinis seguían accesibles.
Advertencias del gobierno indio
Días antes de esta orden, el Ministerio de TI había emitido un aviso más amplio a las plataformas de redes sociales, recordándoles que la cumplimiento de las leyes locales que rigen el contenido obsceno y sexualmente explícito es prerrequisito para conservar la inmunidad legal respecto al material generado por los usuarios. Las empresas fueron instadas a reforzar sus salvaguardias internas, con la advertencia de que fallar en esto podría resultar en acciones legales bajo las leyes de TI y penales de India.
Implicaciones globales
India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso de prueba crítico para evaluar hasta dónde están dispuestos a llegar los gobiernos en responsabilizar a las plataformas por el contenido generado por inteligencia artificial. Cualquier endurecimiento en la aplicación de las leyes en el país puede tener efectos en cadena para las empresas tecnológicas globales que operan en múltiples jurisdicciones.
Retos legales para X
Esta orden se produce en un momento en que X continúa desafiando ciertos aspectos de la regulación de contenido en los tribunales indios, argumentando que los poderes de eliminación del gobierno federal pueden ser excesivos. En paralelo, Grok ha sido cada vez más utilizado por los usuarios de X para realizar verificaciones de hechos en tiempo real, lo que hace que sus resultados sean más visibles y políticamente sensibles que los de herramientas de IA independientes.
Consejos para emprendedores y negocios
- Implementar salvaguardias: Asegúrate de que tus plataformas tienen sistemas robustos para evitar la generación de contenido ilegal o dañino.
- Cumplir con la normativa local: Infórmate sobre las leyes vigentes en cada país en el que operes para evitar sanciones o problemas legales.
- Ser transparente: Mantén a los usuarios informados sobre los cambios en las políticas de contenido y cómo se manejan las quejas.
- Crear un canal de comunicación: Establece un medio donde los usuarios puedan reportar contenido inapropiado de manera sencilla y efectiva.
Conclusiones
La regulación del contenido generado por inteligencia artificial está en un estado de evolución, y casos como el de X y Grok en India muestran que los gobiernos están tomando medidas serias para supervisar estas tecnologías. Emprendedores y empresas tecnológicas deben ser proactivos en la implementación de políticas que no solo cumplan con las leyes locales, sino que también promuevan un entorno seguro y responsable para sus usuarios.