OpenAI ha anunciado una nueva función llamada Contacto de Confianza, diseñada para alertar a un tercero de confianza si durante una conversación se mencionan pensamientos de autolesionismo. Esta funcionalidad permite a los usuarios adultos de ChatGPT designar a otra persona, como un amigo o familiar, como contacto de confianza. En situaciones donde la conversación pueda girar en torno a la autolesión, OpenAI alentará al usuario a que se comunique con esa persona, enviándole también una alerta automatizada para que se interese por el usuario.
Nuevas Medidas Tras Demandas
OpenAI ha enfrentado recientemente una ola de demandas por parte de familias de personas que se han suicidado tras interactuar con su chatbot. En varios casos, se alega que ChatGPT alienta a los usuarios a quitarse la vida e incluso a planificarlos. Este contexto ha llevado a la empresa a tomar medidas más proactivas en la gestión de posibles incidentes dañinos.
Protocolo de Seguridad
Actualmente, OpenAI emplea una combinación de automatización y revisión humana para abordar situaciones potencialmente peligrosas. Existen ciertos desencadenantes conversacionales que alertan al sistema sobre ideaciones suicidas, que luego son comunicadas a un equipo de seguridad humano. OpenAI afirma que revisa cada notificación de seguridad en menos de una hora.
Si el equipo de OpenAI determina que una situación representa un riesgo serio, ChatGPT enviará una alerta al contacto de confianza designado, mediante correo electrónico, mensaje de texto o notificación en la aplicación. Esta alerta, diseñada para ser breve, tiene como objetivo animar al contacto a que se interese por el usuario, sin incluir detalles sobre lo discutido, para proteger la privacidad del usuario.
Funciones Previas y Opcionalidad
La función de Contacto de Confianza complementa las medidas de protección que OpenAI introdujo el pasado septiembre, las cuales permiten a los padres supervisar las cuentas de sus hijos adolescentes. Estas medidas incluyen recibir notificaciones de seguridad si el sistema de OpenAI considera que el menor está enfrentando un riesgo serio. De forma adicional, ChatGPT ha incorporado alertas automáticas que invitan a buscar ayuda profesional en temas relacionados con la autolesión.
Es importante destacar que el Contacto de Confianza es opcional y los usuarios pueden tener múltiples cuentas de ChatGPT, incluso si algunos de ellos activan esta función. Las controles parentales también son opcionales, lo que presenta una limitación similar.
Compromiso con el Bienestar
OpenAI ha manifestado que la función de Contacto de Confianza es parte de su esfuerzo más amplio por construir sistemas de IA que ayuden a las personas en momentos difíciles. La empresa continúa trabajando con clínicos, investigadores y responsables de políticas para mejorar la forma en que los sistemas de IA responden cuando las personas están atravesando momentos de estrés.
Consejos para Emprendedores y Negocios
-
Incorporar la Seguridad en el Desarrollo: Asegúrate de integrar funciones de seguridad en cualquier producto nuevo, especialmente si involucra interacciones de los usuarios, para prevenir riesgos potenciales.
-
Escuchar a los Usuarios: Realiza encuestas o grupos focales para tener claridad sobre las preocupaciones de seguridad que puedan tener tus usuarios.
-
Capacitación Continua del Equipo: Ofrece formación regular a tu equipo sobre cómo manejar situaciones de crisis y cómo responder adecuadamente a las preocupaciones de los usuarios.
- Colaboración con Expertos: Trabaja con profesionales de la salud mental y expertos en seguridad para desarrollar funciones y protocolos adecuados para la protección de los usuarios.
Conclusiones
La introducción de la funcionalidad de Contacto de Confianza por parte de OpenAI es una medida significativa para abordar los riesgos asociados a las interacciones en línea y demuestra la importancia de priorizar el bienestar del usuario. La tendencia hacia la incorporación de mecanismos de seguridad en aplicaciones y plataformas es un camino que todos los emprendedores y negocios deben considerar seriamente, no solo por razones legales, sino también por la responsabilidad ética de cuidar a sus usuarios.