OpenAI ha presentado una nueva función de “predicción de edad” en ChatGPT, diseñada para identificar a los usuarios menores de edad y aplicar restricciones de contenido adecuadas para proteger a los jóvenes. Esta medida responde a las crecientes críticas sobre el impacto que puede tener la inteligencia artificial en los jóvenes, especialmente a la luz de incidentes graves, como suicidios de adolescentes vinculados al uso de la plataforma.
Críticas y Problemas Previos
En los últimos años, OpenAI ha sido objeto de severas críticas por los efectos que ChatGPT puede tener en los jóvenes. Se ha asociado la plataforma con varios casos de suicidios adolescentes, lo que ha generado preocupaciones sobre la idoneidad de la tecnología para menores. A lo largo del tiempo, usuarios menores han podido acceder a conversaciones de contenido sexual, lo que ha llevado a la compañía a tomar medidas para corregir estos problemas.
Corrección de Errores Anteriores
En abril pasado, OpenAI debió abordar un error en su sistema que permitía a los usuarios menores de 18 años generar conversaciones eróticas. Esta situación acentuó la necesidad de implementar medidas efectivas que garanticen un entorno más seguro para todos los usuarios, especialmente los más jóvenes.
Nueva Función de Predicción de Edad
La nueva mejora en la plataforma se basa en un algoritmo de inteligencia artificial que evalúa las cuentas de los usuarios en busca de señales de comportamiento y características del perfil. Según OpenAI, estas señales incluyen:
- La edad que el usuario ha declarado.
- La duración de la existencia de la cuenta.
- Los momentos del día en los que la cuenta suele estar activa.
Esta recopilación de datos busca identificar de manera más precisa a los usuarios menores de edad.
Filtros de Contenido
OpenAI ya contaba con filtros de contenido destinados a emitir restricciones sobre conversaciones que abordan sexo, violencia y otros temas problemáticos para menores. Si el mecanismo de predicción de edad determina que una cuenta pertenece a un usuario menor de 18 años, estos filtros se activan automáticamente, ofreciendo una capa adicional de protección.
Proceso para Verificación de Edad
En caso de que un usuario sea incorrectamente catalogado como menor de edad, OpenAI ha establecido un proceso para la recuperación de su cuenta de adulto. Los usuarios pueden enviar una selfie a través de su socio de verificación de identidad, Persona, lo que permite a la plataforma rectificar el error.
Consejos para Emprendedores y Negocios
-
Implementar Distintivos de Seguridad: Utilizar herramientas de identificación de edad y seguridad similares para proteger a sus usuarios más jóvenes, estableciendo límites de contenido adecuado.
-
Revisar Políticas de Contenido: Asegurarse de tener políticas vigentes que regulen el tipo de contenido que se puede generar o distribuir en su plataforma.
-
Crear Espacios Seguros: Desarrollar entornos seguros y acogedores para menores de edad, garantizando que su experiencia sea educativa y positiva.
- Educación en Comunicación Responsable: Ofrecer recursos educativos sobre el uso responsable de la tecnología a los padres y tutores, así como a los propios jóvenes usuarios.
Conclusiones
La introducción de la función de predicción de edad por parte de OpenAI representa un avance necesario en la regulación del uso de inteligencia artificial por parte de menores. A medida que la preocupación por el impacto de la IA en los jóvenes continúa creciendo, es vital que las empresas se comprometan a crear entornos seguros y responsables. Implementando prácticas adecuadas y manteniéndose alertas a las tendencias, los emprendedores pueden contribuir a una experiencia segura y enriquecedora para todos los usuarios.