OpenAI publica datos reveladores sobre el uso de ChatGPT y su conexión con crisis mentales severas, donde se ha observado un número cada vez mayor de usuarios expresando síntomas de crisis mentales graves tras interactuar con este chatbot. La empresa está tomando medidas para mejorar la detección de señales de ayuda en usuarios y dirigirlos hacia recursos de apoyo real, colaborando con expertos globales en salud mental.
OpenAI expone cifras alarmantes
OpenAI estima que aproximadamente el 0.07% de los usuarios activos de ChatGPT podrían estar experimentando signos de crisis de salud mental como psicosis o manía en una semana típica, y que el 0.15% tiene conversaciones que revelan potenciales intenciones suicidas. Adicionalmente, otro 0.15% parece desarrollar un apego emocional a ChatGPT, lo que potencialmente interfiere con sus relaciones y obligaciones en el mundo real. Con más de 800 millones de usuarios activos semanalmente, estos porcentajes representan números significativos de individuos afectados.
Intervención de expertos en salud mental
La colaboración involucra a más de 170 profesionales entre psiquiatras, psicólogos y médicos de diferentes países. En el esfuerzo por reducir respuestas inapropiadas, estos expertos han revisado y actuado para mejorar las interacciones del chatbot con los usuarios, especialmente aquellos en potencial riesgo de salud mental. El nuevo modelo GPT-5, comparado con su antecesor GPT-4, ha demostrado ser más efectivo en disminuir respuestas que pudieran agravar la situación del usuario, mostrando reducciones significativas en respuestas no deseadas en un rango del 39 al 52%.
Consejos para emprendedores y negocios en tecnologías emergentes
- Monitorización y Responsabilidad: Es vital monitorizar cómo los usuarios interactúan con la tecnología y entender las implicaciones éticas de su uso para actuar responsablemente.
- Colaboración Interdisciplinaria: Trabajar junto a expertos de diferentes campos puede mejorar la funcionalidad y seguridad de los productos tecnológicos.
- Priorizar la Salud Mental: Desarrollar protocolos para identificar y actuar ante posibles afectaciones a la salud mental de los usuarios.
- Transparencia con los Usuarios: Ser abiertos respecto a cómo las herramientas trabajan y sus posibles efectos secundarios.
Conclusiones
El fenómeno de la «psicosis por IA» representa un reto emergente en la intersección de la tecnología y la salud mental. Los esfuerzos de OpenAI por mitigar estos riesgos son un paso crucial, pero también un recordatorio de la necesidad de un enfoque cauteloso y humanista en el desarrollo de tecnología avanzada. Emprendedores y negocios en este ámbito deben considerar estos aspectos y asegurarse de que la innovación tecnológica continúe ocurriendo de manera responsable y ética.