Iceebook News
Los peligros de confiar tu salud mental a chatbots de inteligencia artificial
Un estudio advierte que los chatbots de IA no cumplen los estándares clínicos y pueden generar respuestas peligrosas o inadecuadas en temas de salud mental
2 min lectura
Autor - Aldo Venuta Rodríguez
La inteligencia artificial ha avanzado rápidamente en los últimos años, facilitando nuevas formas de interacción y asistencia digital. Sin embargo, el uso de chatbots para apoyo psicológico está bajo escrutinio. Una reciente investigación de la Universidad de Minnesota, en colaboración con Stanford, Carnegie Mellon y la Universidad de Texas, señala que estos sistemas no deberían reemplazar a los profesionales de la salud mental.
El estudio, publicado en la conferencia ACM FAccT, evaluó a varios chatbots, incluidos los más populares como ChatGPT y asistentes de Meta, en comparación con terapeutas humanos certificados. Los resultados revelan que la calidad y la seguridad del apoyo ofrecido por la IA es claramente insuficiente frente a los estándares clínicos.
Entre los hallazgos más preocupantes se encuentran respuestas peligrosas ante situaciones de crisis, como proporcionar información sensible a preguntas relacionadas con el suicidio. Además, los modelos de IA presentaron altos niveles de estigma y discriminación hacia personas con trastornos mentales, y una clara tendencia a rechazar casos complejos como depresión o adicciones.
Mientras que los terapeutas humanos respondieron correctamente en el 93% de los casos analizados, los chatbots lo hicieron en menos del 60%. Esta brecha pone de manifiesto los riesgos de confiar en la IA para tratar problemas delicados que requieren empatía, experiencia y criterio clínico.
El estudio también observó que las respuestas generadas por IA no siempre siguen buenas prácticas terapéuticas, llegando incluso a fomentar ideas delirantes o a no reconocer crisis graves. Los investigadores advierten que este tipo de recomendaciones puede ser perjudicial, aumentando el riesgo para personas vulnerables.
A pesar de su utilidad potencial para tareas complementarias, los autores concluyen que los chatbots de IA carecen de la capacidad de juicio y contención emocional imprescindibles en el tratamiento psicológico. Insisten en que, por el momento, estas tecnologías solo deben ser consideradas herramientas auxiliares bajo supervisión profesional.
El mensaje es claro: la atención a la salud mental debe ser personalizada, segura y ética. Los chatbots pueden aportar recursos y acompañamiento, pero nunca sustituir el papel insustituible de los terapeutas humanos en la protección y el cuidado de la salud emocional.
Funtes: ACM Digital Library
Preguntas frecuentes
- 💬 No, los estudios muestran que no cumplen los estándares clínicos y pueden ser inseguros.
- 💬 Respuestas peligrosas, discriminación y consejos inadecuados ante crisis o problemas complejos.
- 💬 Solo como complemento bajo supervisión profesional, no como reemplazo de terapia humana.
- 💬 Utilizar IA solo como apoyo y siempre consultar a profesionales certificados para tratamiento.
Continúa informándote
Elon Musk intenta impedir que OpenAI obtenga archivos de Meta relacionados con su intento fallido de compra
Elon Musk pidió a un juez bloquear a OpenAI en su acceso a archivos de Meta vinculados a su fallido intento de comprar la startup de inteligencia artificial
OpenAI y Sam Altman enfrentan demanda tras el suicidio de un adolescente en California vinculado a ChatGPT
Padres demandan a OpenAI y Sam Altman alegando que ChatGPT validó y enseñó métodos de suicidio a su hijo de 16 años en California
GPT6 llegará con memoria y personalización anuncia Sam Altman
GPT6 traerá memoria y ajustes personalizados para los usuarios de ChatGPT según confirmó Sam Altman en un evento en San Francisco
Google estrena AI Mode y desplaza los enlaces clásicos por respuestas generadas con IA
Google lanza AI Mode, un botón que sustituye los enlaces de siempre por respuestas creadas por inteligencia artificial, marcando un cambio histórico en su buscador
¿Pagar a los robots por trabajar? La propuesta que puede transformar la economía humana
La idea de otorgar un “salario” a las máquinas reabre el debate sobre el futuro del trabajo, la redistribución de riqueza y el papel de la inteligencia artificial en la economía
Continúa informándote
La pobreza sería mucho mayor que la oficial según un estudio de la consultora Equilibra
Un análisis de Equilibra revisa canasta y subdeclaración de ingresos y estima una pobreza urbana de 43,3 por ciento frente al 34,7 oficial
Un estudio revela que el permafrost contribuyó a casi la mitad del aumento de CO₂ después de la edad de hielo
Investigadores de la Universidad de Gotemburgo demostraron que el deshielo del permafrost liberó enormes cantidades de carbono tras la última glaciación
Los primeros caballos genéticamente modificados generan polémica en el polo argentino
Cinco potros clonados y editados con CRISPR desatan un debate en Argentina entre la innovación científica y la tradición del polo
Un estudio revela la causa del enlentecimiento temporal de las ondas sísmicas después de un sismo
Investigadores del GFZ identifican la fricción entre granos de roca como la clave detrás de la ralentización de ondas sísmicas tras un terremoto
Argentina alcanza su mayor producción de petróleo en 26 años y se prepara para un nuevo récord histórico
La producción petrolera superó los 800.000 barriles diarios en julio gracias a Vaca Muerta y el país podría romper el récord de 1998 antes de fin de año
Estados Unidos despliega una flota en el Caribe y crecen las dudas sobre su verdadero objetivo
La Casa Blanca asegura que el despliegue busca combatir el narcotráfico pero Caracas y analistas lo interpretan como presión militar sobre Maduro
El cambio climático y los monzones amenazan la seguridad hídrica en el Himalaya y Asia Central
Una investigación muestra que los monzones intensifican el retroceso glaciar en Asia y ponen en riesgo el acceso al agua de más de 1400 millones de personas
La IA ya no es opcional en el trabajo: empresas despiden a quienes se niegan a usarla
Grandes tecnológicas y startups ya exigen a sus empleados usar IA en tareas diarias, despidiendo a quienes se resisten a adoptarla
Jueza federal bloquea la ampliación de deportaciones rápidas de migrantes impulsada por Trump
Una jueza suspendió expansión de deportaciones rápidas impulsada por Trump por riesgo de expulsiones erróneas y falta de debido proceso para migrantes
Descubren araña que aprovecha la luz de las luciérnagas para atraer más presas
Descubren araña que aprovecha la luz de las luciérnagas atrapadas en su telaraña como cebo para atraer más presas en bosques de Asia