Iceebook News
Los chatbots de IA exageran sistemáticamente los hallazgos científicos, según un estudio internacional
Un análisis de casi 5.000 resúmenes revela que modelos como ChatGPT y DeepSeek generalizan en exceso los resultados de investigaciones científicas
2 min lectura
Autor - Aldo Venuta Rodríguez
Los modelos de lenguaje como ChatGPT, DeepSeek y Claude están transformando la manera en que se accede a la información científica, pero un nuevo estudio advierte que estos sistemas de IA exageran rutinariamente los hallazgos de los estudios que resumen. La investigación, liderada por el Dr. Uwe Peters de la Universidad de Utrecht y el Dr. Benjamin Chin-Yee, evaluó 4.900 resúmenes generados por 10 modelos de lenguaje masivo (LLM) y encontró que seis de ellos incurrieron en generalizaciones excesivas en la mayoría de los casos.
El análisis incluyó resúmenes de artículos científicos de alto impacto publicados en revistas como Nature, Science y Lancet. Los modelos tendían a convertir frases cautelosas como “el tratamiento fue eficaz en este estudio” en afirmaciones absolutas como “el tratamiento es eficaz”, ampliando erróneamente el alcance de los resultados originales.
Paradójicamente, cuando se les pidió expresamente que evitaran inexactitudes, algunos modelos generaron aún más exageraciones. “Esto es preocupante”, señaló Peters, “porque sugiere que los usuarios podrían confiar más en resúmenes que en realidad son menos precisos cuando se intenta mejorar su fidelidad”.
Los investigadores también compararon estos resúmenes con versiones escritas por humanos. Los chatbots presentaron una probabilidad casi cinco veces mayor de exagerar las conclusiones científicas. Los modelos más nuevos, como ChatGPT-4o y DeepSeek, resultaron menos precisos que versiones anteriores, desafiando la noción de que las mejoras técnicas implican mayor rigor.
El estudio destaca que este comportamiento puede estar vinculado a los propios datos de entrenamiento: “Las generalizaciones excesivas ya son comunes en la escritura científica, y los modelos podrían estar reproduciendo ese sesgo”, explicó Chin-Yee. Además, los usuarios podrían fomentar sin querer estas exageraciones al preferir respuestas más amplias o contundentes.
Para reducir estos riesgos, los autores recomiendan usar modelos como Claude, que mostró mejores niveles de precisión, así como ajustar la temperatura de los LLM (parámetro que regula la creatividad) y fomentar el uso de tiempo pasado y lenguaje indirecto en los resúmenes generados.
“Si queremos que la inteligencia artificial potencie la alfabetización científica y no la debilite, necesitamos implementar evaluaciones de precisión rigurosas en estos sistemas”, concluyó Peters. El artículo completo se encuentra publicado en Royal Society Open Science.
Referencias: Royal Society Open Science
Preguntas frecuentes
- 💬 Que suelen exagerar los hallazgos científicos al generar resúmenes de investigaciones.
- 💬 Se evaluaron diez modelos, incluidos ChatGPT-4o, DeepSeek, Claude y LLaMA.
- 💬 No siempre; los modelos más nuevos mostraron más errores que versiones anteriores.
- 💬 Usando modelos más precisos, bajando la temperatura y optando por lenguaje en pasado.
Continúa informándote
OpenAI presenta GPT-5, más rápido, preciso y con capacidades multimodales
La nueva generación de ChatGPT ofrece razonamiento mejorado, más memoria y funciones multimodales que integran texto, imagen, vídeo y audio
Israel impulsa la seguridad en la aviación global con inteligencia artificial de última generación
La apuesta israelí por tecnologías avanzadas para monitoreo y prevención está cambiando la forma en que volamos, integrando IA en aviones y satélites y marcando un nuevo estándar mundial
Investigaciones en Taiwán por supuesto robo de tecnología por parte de compañías chinas
El aumento de controles en Taiwán busca proteger la innovación tecnológica ante las crecientes amenazas de espionaje industrial y fuga de talento hacia China
Silicon Valley ya no es el paraíso laboral: el desencanto de quienes vivieron la era dorada
La cultura de trabajo en Google, Apple y Meta cambió radicalmente en la última década, erosionando el atractivo que hizo de Silicon Valley un mito mundial
Aumenta la expectativa por el lanzamiento del modelo GPT-5 de OpenAI
El sector tecnológico aguarda el anuncio oficial de GPT-5, con primeras pruebas positivas y expectativas sobre sus avances y desafíos técnicos
Continúa informándote
Fallece trabajador de 22 años al manipular una campana extractora en un restaurante de Zaragoza
Un joven de 22 años murió en Zaragoza tras sufrir un accidente laboral mientras manipulaba una campana extractora en el restaurante donde trabajaba
Musk advierte que la inteligencia artificial agotará el conocimiento humano disponible
Elon Musk advirtió que la inteligencia artificial podría llegar a un límite al quedarse sin datos humanos nuevos para entrenar sus sistemas
Australia activa la Superbatería Waratah, el sistema de respaldo eléctrico más potente del planeta
La nueva instalación en Nueva Gales del Sur estabilizará la red y protegerá el suministro frente a eventos extremos
Revelan 332 cañones submarinos que podrían acelerar el deshielo en la Antártida
Un estudio cartográfico identifica 332 cañones submarinos en la Antártida y advierte que podrían influir en el deshielo y el aumento del nivel del mar
Zelenskiy insiste en no ceder tierras mientras Trump y Putin confirman reunión en Alaska
El presidente ucraniano reafirmó que no entregará territorio a Rusia, pese a los planes de cumbre en Alaska para buscar la paz en Ucrania
Incendio en el Vesubio moviliza el Ejército y 10 aeronaves para combatir un fuego que arrasa Terzigno y Boscotrecase
Las autoridades investigan un incendio en el Vesubio, presuntamente de origen doloso, que ha obligado a un amplio despliegue aéreo y terrestre en Campania
Masiva manifestación en Tel Aviv pide fin de la guerra en Gaza y la liberación de rehenes
Decenas de miles de personas marchan contra el nuevo plan de Netanyahu para Gaza y exigen un acuerdo que libere a los rehenes
La IA vacía los empleos junior y hunde el modelo de los bootcamps de programación
La IA automatiza tareas junior y reduce contratación: caen los bootcamps; empresas priorizan talento senior y élites académicas en Silicon Valley hoy
Elon Musk alerta que el mundo está al borde de una crisis energética global
La creciente demanda de electricidad impulsada por la IA, criptominería y autos eléctricos podría llevar a una escasez sin precedentes, según Musk
Accidente mortal de autobús en Tolosa provoca una víctima
Un conductor falleció en Tolosa tras chocar su turismo de forma frontal con un autobús de línea en la mañana de este sábado