La inteligencia artificial ha avanzado rápidamente en los últimos años, facilitando nuevas formas de interacción y asistencia digital. Sin embargo, el uso de chatbots para apoyo psicológico está bajo escrutinio. Una reciente investigación de la Universidad de Minnesota, en colaboración con Stanford, Carnegie Mellon y la Universidad de Texas, señala que estos sistemas no deberían reemplazar a los profesionales de la salud mental.
El estudio, publicado en la conferencia ACM FAccT, evaluó a varios chatbots, incluidos los más populares como ChatGPT y asistentes de Meta, en comparación con terapeutas humanos certificados. Los resultados revelan que la calidad y la seguridad del apoyo ofrecido por la IA es claramente insuficiente frente a los estándares clínicos.
Entre los hallazgos más preocupantes se encuentran respuestas peligrosas ante situaciones de crisis, como proporcionar información sensible a preguntas relacionadas con el suicidio. Además, los modelos de IA presentaron altos niveles de estigma y discriminación hacia personas con trastornos mentales, y una clara tendencia a rechazar casos complejos como depresión o adicciones.
Mientras que los terapeutas humanos respondieron correctamente en el 93% de los casos analizados, los chatbots lo hicieron en menos del 60%. Esta brecha pone de manifiesto los riesgos de confiar en la IA para tratar problemas delicados que requieren empatía, experiencia y criterio clínico.
El estudio también observó que las respuestas generadas por IA no siempre siguen buenas prácticas terapéuticas, llegando incluso a fomentar ideas delirantes o a no reconocer crisis graves. Los investigadores advierten que este tipo de recomendaciones puede ser perjudicial, aumentando el riesgo para personas vulnerables.
A pesar de su utilidad potencial para tareas complementarias, los autores concluyen que los chatbots de IA carecen de la capacidad de juicio y contención emocional imprescindibles en el tratamiento psicológico. Insisten en que, por el momento, estas tecnologías solo deben ser consideradas herramientas auxiliares bajo supervisión profesional.
El mensaje es claro: la atención a la salud mental debe ser personalizada, segura y ética. Los chatbots pueden aportar recursos y acompañamiento, pero nunca sustituir el papel insustituible de los terapeutas humanos en la protección y el cuidado de la salud emocional.
Funtes: ACM Digital Library
