Meta ha anunciado que comenzará a utilizar inteligencia artificial para escanear fotos y videos en Facebook e Instagram con el objetivo de identificar si un usuario es menor de 13 años y, en caso afirmativo, eliminar su cuenta. La compañía ha especificado que los indicios visuales que analizarán incluyen la altura o la estructura ósea de la persona.
Uso de Inteligencia Artificial para la Seguridad Infantil
Meta ha clarificado en su publicación que este sistema de IA no se basa en el reconocimiento facial. En cambio, la tecnología se enfoca en identificar temas generales y señales visuales para estimar la edad de una persona en función de características físicas. Al combinar estos datos visuales con un análisis del contenido textual e interacciones en la plataforma, Meta busca aumentar significativamente el número de cuentas de menores que consigue identificar y eliminar.
Despliegue en Diversos Países
Actualmente, este sistema de análisis visual está funcionando en ciertos países seleccionados, y Meta tiene planes para un despliegue más amplio en el futuro. Este esfuerzo forma parte de su compromiso por mantener a los niños menores de 13 años fuera de sus plataformas. Además, la empresa está utilizando IA para analizar perfiles completos en busca de pistas contextuales como celebraciones de cumpleaños o menciones de notas escolares.
Técnicas de Análisis Utilizadas
La tecnología se enfoca en identificar señales en múltiples formatos, que incluyen publicaciones, comentarios, biografías y subtítulos. Meta tiene planes de expandir esta capacidad a otras áreas de sus aplicaciones, como Instagram Live y Facebook Groups.
Proceso de Verificación de Edad
Si Meta determina que una cuenta puede pertenecer a un menor, procederá a desactivar la cuenta. El usuario afectado deberá demostrar su edad mediante el proceso de verificación de edad de la compañía para evitar la eliminación de su cuenta.
Contexto Legal y Reacción
Esta medida llega poco después de que un jurado en Nuevo México ordenara a Meta pagar 375 millones de dólares en sanciones civiles por engañar a los consumidores sobre la seguridad de sus plataformas, poniendo en riesgo a los menores. Asimismo, la corte exigió que la empresa implementara cambios fundamentales en sus plataformas. Meta ha advertido que podría cerrar sus servicios en este estado como respuesta.
Es importante destacar que este caso es uno de los muchos litigios que Meta y otras grandes empresas tecnológicas están enfrentando relacionados con la seguridad infantil.
Expansión de las Cuentas de Menores en Instagram
Además, Meta ha anunciado la expansión de su tecnología que clasifica automáticamente a los adolescentes en cuentas más estrictas en Instagram a 27 países de la UE y Brasil. Estas cuentas brindan una experiencia más segura a los usuarios jóvenes, limitando el contacto a solo aquellos que siguen o con quienes ya están conectados, así como ocultando comentarios dañinos y configurando las cuentas como privadas por defecto.
Asimismo, Meta ha indicado que llevará esta tecnología a Facebook en los EE. UU. por primera vez, con planes de implementación en el Reino Unido y la UE para junio.
Consejos para Emprendedores y Negocios
-
Mantén Actualizados tus Protocolos de Seguridad: Asegúrate de contar con protocolos sólidos para proteger a los menores que utilizan tus plataformas.
-
Implementa Herramientas de Verificación de Edad: Considera la posibilidad de emplear tecnologías que verifiquen la edad de los usuarios, como hace Meta, para mayor seguridad.
-
Monitorea el Contenido: Utiliza sistemas de análisis de contenido para identificar interacciones inapropiadas y proteger a tu comunidad.
-
Fomenta un Entorno Seguro: Establece políticas de uso que promuevan un entorno seguro para todos los usuarios, enfocándote en los menores.
- Esté Preparado para Cambios Regulatorios: Mantente informado sobre las leyes relacionadas con Internet y la protección de menores, y ajusta tus estrategias en consecuencia.
Conclusiones
El uso de la inteligencia artificial por parte de Meta es un paso significativo hacia la mejora de la seguridad online para los menores. Con el creciente escrutinio sobre cómo las plataformas sociales manejan la protección infantil, es esencial que las empresas innoven y adopten medidas proactivas para garantizar la seguridad de sus usuarios más jóvenes. La implementación de medidas de verificación de edad y el análisis de contenido son cruciales para cumplir con estas obligaciones y para fomentar un entorno más seguro en el mundo digital.