El lado oscuro de ChatGPT: los usuarios podrían estar sufriendo signos de crisis psicótica
OpenAI, la empresa detrás de ChatGPT, dio a conocer que miles de usuarios usan esta IA y muestran síntomas que representan una emergencia en salud mental
ChatGPT es un chatbot deinteligencia artificial desarrollado por OpenAI que genera texto similar al humano a partir de preguntas y comandos. A tres años aproximados de su lanzamiento, ya lo utilizan más de 800 millones de personas por semana. Recientemente se dieron a conocer eventuales consecuencias de salud mental de quienes utilizan esta IA.
OpenAI publicó que cada semana alrededor de 560.000 usuarios muestran signos de psicosis o manía, lo que representa el 0,07% de su base de 800 millones. Además, 2,4 millones de personas (un 0,15%) mantienen conversaciones sobre planificación o intención suicida. Estas alarmantes cifras aparecen en un informe recogido por Futurism luego de varios casos judiciales contra la compañía.
chat gpt celular
800 millones de personas utilizan ChatGPT en la semana. Imagen: Pexels.
La empresa que desarrolló esta inteligencia artificial generativa señaló que una cantidad similar de usuarios muestra apego emocional con ChatGPT. Detectar y cuantificar este tipo de conversaciones resulta difícil porque son poco frecuentes. Sin embargo, OpenAI estima que alrededor del 0,07% de los usuarios activos cada semana, y el 0,01% de los mensajes, muestran posibles señales de emergencias de salud mental relacionadas con la psicosis o la manía.
Por otro lado, también se hizo referencia a quienes tienen dependencia emocional hacia ChatGPT. Se puede diferenciar un uso saludable y patrones preocupantes, cuando las personas muestran apego excesivo a la IA.
La compañía calcula que el 0,15% de los usuarios activos en una semana y el 0,03% de los mensajes reflejan posibles niveles altos de apego emocional hacia ChatGPT. Para sacar estas conclusiones, OpenAI consultó a 170 especialistas en salud mental con experiencia clínica.
salud mental.jpg
No se recomienda hablar sobre temas de salud mental con ChatGPT. Lo mejor es buscar ayuda con profesionales como psicólogos o psiquiatras, además de buscar un entorno de contención. Imagen: Freepik.
Antecedentes preocupantes de ChatpGPT
La publicación de estos números llega luego de que en agosto los padres de un joven de 16 años que se quitó la vida, tras varios meses de interacción con ChatGPT, demandaron a OpenAI y a Sam Altman, su director ejecutivo. Los padres del menor de edad responsabilizaron por supuestamente apresurar el despliegue de GPT-4o, a pesar de los problemas de seguridad de ese modelo de IA.
En esta oportunidad, los datos que revelaron forman parte de un anuncio más amplio relacionado con los esfuerzos de OpenAi por abordar esta problemática. El trabajo en conjunto con expertos de salud mental, revela que la versión más reciente de ChatGPT "responde de forma más adecuada y consistente en relación con las ediciones anteriores”.
