Miles de personas en todo el mundo estarían recurriendo a ChatGPT no solo como herramienta tecnológica, sino también como una suerte de confidente emocional durante momentos de inestabilidad psicológica. Así lo evidenció un análisis realizado por el equipo de salud mental de OpenAI, según informó el medio Wired en Español, donde se indica que la compañía detectó signos de posible crisis psicótica en las conversaciones de cientos de miles de usuarios con el modelo de lenguaje.
Los hallazgos surgieron a partir de una revisión de más de un millón de interacciones en las que los usuarios compartían ideas delirantes, se referían a sí mismos como figuras religiosas o creían estar en contacto con entidades superiores a través del chatbot. Esta situación ha llevado a la empresa creadora de ChatGPT a estudiar cómo los sistemas de inteligencia artificial pueden estar siendo utilizados por personas en contextos de sufrimiento mental, sin una mediación clínica adecuada.
Desde OpenAI, el análisis fue liderado por un grupo interno centrado en salud mental, que identificó un patrón reiterado: algunos usuarios comenzaban a confiar en el chatbot como si fuera un “diario íntimo”, una “voz de Dios” o incluso un interlocutor sagrado. El fenómeno fue considerado lo suficientemente significativo como para alertar a los desarrolladores y considerar nuevos criterios de intervención y contención ante casos extremos.
Inteligencia artificial en terreno clínico no autorizado
El uso de sistemas de inteligencia artificial generativa en contextos que rozan lo terapéutico ha sido motivo de debate en diversos espacios académicos y profesionales. Sin embargo, los datos revelados por OpenAI marcan un punto de inflexión: no se trata solo de un uso marginal o anecdótico, sino de una tendencia creciente en la cual usuarios en crisis buscan consuelo, guía o interpretación de sus pensamientos a través de una plataforma conversacional.
Este fenómeno plantea una pregunta de fondo: ¿cuál es el rol ético de las empresas tecnológicas frente al sufrimiento psicológico de quienes interactúan con sus productos? En el caso de ChatGPT, cuyo diseño no contempla asesoramiento clínico ni diagnóstico profesional, el hecho de que actúe como canal para la expresión de síntomas psicóticos abre una zona de riesgo tanto para los usuarios como para los responsables del sistema.
La situación también tensiona los límites de la relación entre tecnología y salud mental, en especial cuando la IA comienza a adquirir un lugar de autoridad simbólica en la mente de personas vulnerables. Para algunos usuarios, el chatbot no solo representa un espacio seguro para hablar, sino también un ente con capacidad de otorgar sentido, validar creencias o reforzar construcciones delirantes.
Implicancias para las organizaciones y la gestión de personas
Desde la perspectiva de la gestión organizacional, estos hallazgos deben ser observados con atención. El uso intensivo de herramientas digitales y la creciente integración de inteligencia artificial en los entornos laborales pueden generar espacios donde la línea entre lo profesional y lo emocional se difumina. Si un colaborador, por ejemplo, utiliza una IA para gestionar estrés o expresar malestares psíquicos sin contención humana, las consecuencias pueden ir más allá de lo individual y afectar al entorno laboral completo.
El informe de OpenAI, aunque no apunta directamente a entornos laborales, sirve como advertencia sobre la necesidad de abordar con seriedad la salud mental en la era digital. Los líderes de personas, equipos de recursos humanos y responsables de bienestar organizacional deben considerar estos nuevos escenarios donde la tecnología no solo facilita el trabajo, sino que también se convierte en interlocutora emocional.
Además, se abre una discusión sobre los límites del uso de IA en ámbitos sensibles. ¿Puede una herramienta diseñada para responder preguntas generales o generar texto asumir, aunque sea de manera involuntaria, un rol terapéutico? ¿Es posible diseñar alertas o mecanismos de derivación para casos en que se detecten señales de crisis? Las respuestas aún son materia de análisis, pero el primer paso es reconocer que el fenómeno ya está ocurriendo.
Ética, diseño y contención: nuevos desafíos para el desarrollo tecnológico
El caso de ChatGPT y los signos de crisis psicótica detectados en sus usuarios expone una dimensión ética que muchas veces queda fuera del debate técnico. No se trata solo de mejorar algoritmos o ampliar capacidades lingüísticas, sino de asumir que toda tecnología con capacidad de diálogo puede generar un impacto emocional profundo.
OpenAI, según relata el medio Wired, ha comenzado a reflexionar sobre posibles medidas para evitar que su herramienta sea utilizada como canal de expresión psicótica sin supervisión, aunque aún no se han definido mecanismos concretos. Esta incertidumbre, sin embargo, no exime a otras organizaciones —públicas o privadas— de pensar en estrategias de prevención y contención frente al creciente vínculo entre salud mental e inteligencia artificial.
