Iceebook News
Los peligros de confiar tu salud mental a chatbots de inteligencia artificial
Un estudio advierte que los chatbots de IA no cumplen los estándares clínicos y pueden generar respuestas peligrosas o inadecuadas en temas de salud mental
2 min lectura
Autor - Aldo Venuta Rodríguez
La inteligencia artificial ha avanzado rápidamente en los últimos años, facilitando nuevas formas de interacción y asistencia digital. Sin embargo, el uso de chatbots para apoyo psicológico está bajo escrutinio. Una reciente investigación de la Universidad de Minnesota, en colaboración con Stanford, Carnegie Mellon y la Universidad de Texas, señala que estos sistemas no deberían reemplazar a los profesionales de la salud mental.
El estudio, publicado en la conferencia ACM FAccT, evaluó a varios chatbots, incluidos los más populares como ChatGPT y asistentes de Meta, en comparación con terapeutas humanos certificados. Los resultados revelan que la calidad y la seguridad del apoyo ofrecido por la IA es claramente insuficiente frente a los estándares clínicos.
Entre los hallazgos más preocupantes se encuentran respuestas peligrosas ante situaciones de crisis, como proporcionar información sensible a preguntas relacionadas con el suicidio. Además, los modelos de IA presentaron altos niveles de estigma y discriminación hacia personas con trastornos mentales, y una clara tendencia a rechazar casos complejos como depresión o adicciones.
Mientras que los terapeutas humanos respondieron correctamente en el 93% de los casos analizados, los chatbots lo hicieron en menos del 60%. Esta brecha pone de manifiesto los riesgos de confiar en la IA para tratar problemas delicados que requieren empatía, experiencia y criterio clínico.
El estudio también observó que las respuestas generadas por IA no siempre siguen buenas prácticas terapéuticas, llegando incluso a fomentar ideas delirantes o a no reconocer crisis graves. Los investigadores advierten que este tipo de recomendaciones puede ser perjudicial, aumentando el riesgo para personas vulnerables.
A pesar de su utilidad potencial para tareas complementarias, los autores concluyen que los chatbots de IA carecen de la capacidad de juicio y contención emocional imprescindibles en el tratamiento psicológico. Insisten en que, por el momento, estas tecnologías solo deben ser consideradas herramientas auxiliares bajo supervisión profesional.
El mensaje es claro: la atención a la salud mental debe ser personalizada, segura y ética. Los chatbots pueden aportar recursos y acompañamiento, pero nunca sustituir el papel insustituible de los terapeutas humanos en la protección y el cuidado de la salud emocional.
Funtes: ACM Digital Library
Preguntas frecuentes
- 💬 No, los estudios muestran que no cumplen los estándares clínicos y pueden ser inseguros.
- 💬 Respuestas peligrosas, discriminación y consejos inadecuados ante crisis o problemas complejos.
- 💬 Solo como complemento bajo supervisión profesional, no como reemplazo de terapia humana.
- 💬 Utilizar IA solo como apoyo y siempre consultar a profesionales certificados para tratamiento.
Continúa informándote
OpenAI presenta GPT-5, más rápido, preciso y con capacidades multimodales
La nueva generación de ChatGPT ofrece razonamiento mejorado, más memoria y funciones multimodales que integran texto, imagen, vídeo y audio
Israel impulsa la seguridad en la aviación global con inteligencia artificial de última generación
La apuesta israelí por tecnologías avanzadas para monitoreo y prevención está cambiando la forma en que volamos, integrando IA en aviones y satélites y marcando un nuevo estándar mundial
Investigaciones en Taiwán por supuesto robo de tecnología por parte de compañías chinas
El aumento de controles en Taiwán busca proteger la innovación tecnológica ante las crecientes amenazas de espionaje industrial y fuga de talento hacia China
Silicon Valley ya no es el paraíso laboral: el desencanto de quienes vivieron la era dorada
La cultura de trabajo en Google, Apple y Meta cambió radicalmente en la última década, erosionando el atractivo que hizo de Silicon Valley un mito mundial
Aumenta la expectativa por el lanzamiento del modelo GPT-5 de OpenAI
El sector tecnológico aguarda el anuncio oficial de GPT-5, con primeras pruebas positivas y expectativas sobre sus avances y desafíos técnicos
Continúa informándote
Brote de chikungunya en China supera los 7.000 contagios
China enfrenta su mayor brote de chikungunya, con miles de casos en Guangdong y medidas sanitarias urgentes para frenar el avance del virus transmitido por mosquitos
Fallece trabajador de 22 años al manipular una campana extractora en un restaurante de Zaragoza
Un joven de 22 años murió en Zaragoza tras sufrir un accidente laboral mientras manipulaba una campana extractora en el restaurante donde trabajaba
Musk advierte que la inteligencia artificial agotará el conocimiento humano disponible
Elon Musk advirtió que la inteligencia artificial podría llegar a un límite al quedarse sin datos humanos nuevos para entrenar sus sistemas
Australia activa la Superbatería Waratah, el sistema de respaldo eléctrico más potente del planeta
La nueva instalación en Nueva Gales del Sur estabilizará la red y protegerá el suministro frente a eventos extremos
Revelan 332 cañones submarinos que podrían acelerar el deshielo en la Antártida
Un estudio cartográfico identifica 332 cañones submarinos en la Antártida y advierte que podrían influir en el deshielo y el aumento del nivel del mar
Zelenskiy insiste en no ceder tierras mientras Trump y Putin confirman reunión en Alaska
El presidente ucraniano reafirmó que no entregará territorio a Rusia, pese a los planes de cumbre en Alaska para buscar la paz en Ucrania
Incendio en el Vesubio moviliza el Ejército y 10 aeronaves para combatir un fuego que arrasa Terzigno y Boscotrecase
Las autoridades investigan un incendio en el Vesubio, presuntamente de origen doloso, que ha obligado a un amplio despliegue aéreo y terrestre en Campania
Masiva manifestación en Tel Aviv pide fin de la guerra en Gaza y la liberación de rehenes
Decenas de miles de personas marchan contra el nuevo plan de Netanyahu para Gaza y exigen un acuerdo que libere a los rehenes
La IA vacía los empleos junior y hunde el modelo de los bootcamps de programación
La IA automatiza tareas junior y reduce contratación: caen los bootcamps; empresas priorizan talento senior y élites académicas en Silicon Valley hoy
Elon Musk alerta que el mundo está al borde de una crisis energética global
La creciente demanda de electricidad impulsada por la IA, criptominería y autos eléctricos podría llevar a una escasez sin precedentes, según Musk