El uso de modelos de lenguaje para obtener consejos de salud mental genera una creciente preocupación en la comunidad científica. Un reciente estudio liderado por expertos de la Universidad de Brown indica que, aunque estas herramientas logran un tono reconfortante, incumplen estándares éticos esenciales que guían a los psicólogos en su práctica profesional. La investigación resalta que la capacidad de imitar el lenguaje terapéutico no equivale a la formación y responsabilidad de la psicología clínica.
Es común el uso de la IA como terapeuta.
Los investigadores trabajaron junto a profesionales de la salud mental con el objetivo de evaluar el comportamiento de los chatbots en entornos de asesoramiento. Durante las pruebas, los sistemas presentaron fallos en la gestión de crisis y reforzaron ideas dañinas en los usuarios. El equipo identificó un total de 15 riesgos éticos que demuestran cómo la inteligencia artificial vulnera las normas de cuidado requeridas en una psicoterapia humana real.
Limitaciones de la inteligencia artificial frente a la psicología
Zainab Iftikhar, investigadora principal del estudio, analizó la creencia de que instrucciones específicas pueden transformar a un chatbot en un terapeuta responsable. Muchos usuarios en redes sociales comparten comandos para que la máquina actúe bajo principios de la terapia cognitivo-conductual. Sin embargo, el sistema no ejecuta las técnicas de la psicología de forma genuina, sino que genera respuestas basadas en patrones lingüísticos aprendidos previamente.
Esta práctica resulta arriesgada porque las herramientas tecnológicas carecen de una comprensión profunda de los conceptos que manejan. Los psicólogos colegiados basan su trabajo en una formación rigurosa que les permite adaptar el tratamiento a cada individuo. En cambio, los modelos de inteligencia artificial suelen ofrecer guías genéricas que ignoran el contexto personal y los antecedentes de quienes buscan ayuda.
El papel de los psicólogos y la seguridad del paciente
La evaluación de los expertos reveló errores constantes en la gestión de situaciones críticas. Los revisores notaron que los sistemas mostraban una "empatía engañosa", utilizando frases cálidas que no implican una responsabilidad real sobre el bienestar del consultante. Según el estudio, la falta de una estructura legal y profesional que exija rendición de cuentas diferencia drásticamente a la máquina de los psicólogos humanos, quienes responden ante tribunales de ética.
A pesar de que la tecnología podría facilitar el acceso a ciertos recursos de apoyo, los autores del informe aclaran que la disponibilidad no es sinónimo de cuidado de calidad. La psicología requiere una supervisión constante para evitar prejuicios y discriminación, factores que aún aparecen en las respuestas automatizadas. La inteligencia artificial presenta vacíos importantes en la detección de pensamientos suicidas, reaccionando de forma débil o insuficiente ante el peligro inminente.
Finalmente, el equipo docente de Brown subrayó que resulta mucho más sencillo desplegar estos sistemas que evaluarlos de manera responsable. Mientras que un profesional de la psicología atraviesa años de formación, los algoritmos se lanzan al mercado con métricas automáticas que no consideran la sensibilidad humana. Este estudio deja claro que, por ahora, el juicio clínico y la ética profesional permanecen como capacidades exclusivas de los seres humanos.