En su último esfuerzo por abordar las crecientes preocupaciones sobre el impacto de la IA en los jóvenes, OpenAI ha actualizado sus directrices sobre cómo deben comportarse sus modelos de inteligencia artificial con usuarios menores de 18 años. Además, ha publicado nuevos recursos sobre la alfabetización en IA dirigidos a adolescentes y padres. Sin embargo, aún quedan preguntas sobre cómo se traducirán estas políticas en la práctica.
Crecientes preocupaciones sobre el impacto de la IA en los jóvenes
Las actualizaciones llegan en un momento en que la industria de la IA, y OpenAI en particular, enfrenta un mayor control por parte de los responsables políticos, educadores y defensores de la seguridad infantil, especialmente tras informes de varios adolescentes que supuestamente se suicidaron después de mantener conversaciones prolongadas con chatbots de IA. Se estima que la Generación Z, compuesta por aquellos nacidos entre 1997 y 2012, son los usuarios más activos del chatbot de OpenAI. Con su reciente acuerdo con Disney, se espera que más jóvenes se integren a esta plataforma, que permite desde ayudar con tareas escolares hasta generar imágenes y videos sobre cientos de temas.
La semana pasada, 42 fiscales generales de estados firmaron una carta dirigida a las grandes empresas tecnológicas instándolas a implementar medidas de seguridad en los chatbots de IA para proteger a niños y personas vulnerables. A medida que la administración de Trump trabaja para establecer qué podría implicar una regulación federal de la IA, políticos como el senador Josh Hawley han introducido legislación que prohibiría a los menores interactuar con chatbots de IA en absoluto.
Actualizaciones en las directrices de OpenAI
El modelo actualizado de OpenAI especifica normas que se basan en especificaciones existentes que prohíben a los modelos de IA generar contenido sexual que involucre a menores o fomentar la autolesión y delirios. Este modelo trabajará junto con un modelo de predicción de edad que identificará cuándo una cuenta pertenece a un menor y aplicará automáticamente medidas de protección para adolescentes. Comparado con los usuarios adultos, los modelos tienen reglas más estrictas para los adolescentes. Se instruye a los modelos a evitar el juego de roles romántico inmersivo, la intimidad en primera persona y el juego de roles violentos, incluso cuando no sean gráficos.
Se enfatiza en comunicar sobre la seguridad más que la autonomía cuando hay daño involucrado y se deben evitar consejos que ayuden a los adolescentes a ocultar comportamientos peligrosos de los cuidadores. OpenAI afirma que estos límites deben mantenerse incluso cuando las solicitudes se enmarquen como «ficticias, hipotéticas, históricas o educativas».
Principios clave para la seguridad de los adolescentes
OpenAI establece que las prácticas de seguridad para adolescentes se sustentan en cuatro principios guías:
- Priorizar la seguridad de los adolescentes.
- Fomentar el apoyo del mundo real dirigiendo a los adolescentes hacia familiares, amigos y profesionales locales.
- Tratar a los adolescentes con cariño y respeto, no desde la condescendencia.
- Ser transparente sobre lo que el asistente puede y no puede hacer, recordando a los adolescentes que no es un ser humano.
Este enfoque se basa en fomentar un entorno más seguro y responsable para los jóvenes al interactuar con la IA.
Recursos para padres y familias
OpenAI ha compartido dos nuevos recursos sobre alfabetización en IA para padres y familias. Estos incluyen consejos y orientación para ayudar a los padres a hablar con los adolescentes sobre qué puede y no puede hacer la IA, construir pensamiento crítico, establecer límites saludables y navegar por temas sensibles. De este modo, se busca compartir la responsabilidad entre los cuidadores y la empresa.
Conclusiones
Aunque OpenAI ha dado pasos significativos hacia la mejora de la seguridad y la transparencia, la implementación efectiva y la coherencia en la aplicación de estas directrices son esenciales para garantizar la protección de los jóvenes en el uso de la inteligencia artificial. La supervisión activa de padres y cuidadores, junto con una clara comunicación sobre los límites y capacidades de la IA, ayudará a crear un entorno más seguro para los adolescentes.
Consejos para emprendedores y negocios relacionados:
-
Fomenta la educación en IA: Crea programas o cursos que ayuden a educar tanto a adolescentes como a padres sobre el uso de la IA y sus riesgos.
-
Implementa medidas de seguridad: Si tu negocio utiliza IA en sus operaciones, asegúrate de incluir medidas de protección para los usuarios menores de edad.
-
Forma alianzas con expertos: Colabora con expertos en tecnología y educación para desarrollar herramientas efectivas y responsables que ayuden a los jóvenes a interactuar de manera segura con la IA.
- Sé transparente: Publica tus políticas y prácticas relacionadas con la seguridad de los jóvenes de manera clara para generar confianza en los usuarios y sus familias.
Debido a las implicaciones del uso responsable de la IA, es fundamental que los negocios se comprometan a mantener un enfoque proactivo y ético en la tecnología.