Iceebook News
OpenAI y Google reconocen un problema creciente: modelos recientes de IA generan alucinaciones graves
Modelos avanzados de IA presentan más alucinaciones que sus versiones previas. Un fenómeno creciente que plantea riesgos para la confianza tecnológica
3 min lectura
Autor - Aldo Venuta Rodríguez
Los modelos de inteligencia artificial (IA) más recientes, diseñados para razonar mejor y generar respuestas más precisas, están mostrando una preocupante tendencia: alucinan más que sus predecesores. Así lo advierten expertos del sector y lo confirma un informe técnico de OpenAI que compara las tasas de error de sus modelos o1, o3 y o4-mini, los dos últimos lanzados en abril de 2025.
Las alucinaciones de IA son respuestas erróneas, engañosas o irrelevantes que un modelo genera al no comprender con exactitud la pregunta, los datos o el contexto. Aunque algunas pueden parecer plausibles, en realidad distorsionan la información, lo que supone un riesgo si se utilizan en ámbitos críticos como diagnósticos médicos, seguridad financiera o decisiones políticas.
Según OpenAI, el modelo o1 presentaba una tasa de alucinaciones del 16 % al resumir datos sobre personas. En cambio, el o3 falló el 33 % de las veces y el o4-mini, un sorprendente 48 %. En lugar de mejorar, los nuevos modelos muestran mayores errores, lo que ha encendido alarmas sobre su fiabilidad y uso en aplicaciones masivas.
Google también reconoce esta problemática. Señala que las alucinaciones pueden deberse a datos de entrenamiento incompletos, sesgados o poco representativos. Un modelo mal entrenado podría, por ejemplo, confundir tejido sano con cáncer o inventar detalles en un resumen de noticias que no figuran en el texto original.
Los expertos de Google identifican otra causa clave: la falta de “fundamentación” del modelo, es decir, su capacidad para basar sus respuestas en conocimientos reales o verificables. Esta deficiencia puede llevar a generar información inventada o enlaces ficticios, lo que mina la confianza del usuario y expone a empresas y gobiernos a consecuencias graves.
Frente a este desafío, la industria propone varias soluciones: limitar los resultados posibles mediante regularización, entrenar modelos solo con datos específicos y relevantes, crear plantillas estructuradas para las respuestas, y ofrecer retroalimentación continua para mejorar la generación de contenido.
Aunque estos esfuerzos buscan reducir el impacto de las alucinaciones, la conclusión es clara: el problema está lejos de resolverse. Las plataformas que integran IA generativa deben ser conscientes de sus limitaciones y actuar con transparencia frente a los usuarios, especialmente en contextos de alto riesgo.
“Es probable que las alucinaciones no desaparezcan del todo”, advierte el artículo de New Scientist. En lugar de eliminarlas, el objetivo actual parece ser aprender a convivir con ellas, mitigarlas y construir entornos de IA más seguros, responsables y auditables.
Preguntas frecuentes
- 💬 Son errores en los que la IA genera contenido falso, irrelevante o incorrecto, aunque parezca creíble.
- 💬 Por problemas en los datos de entrenamiento y dificultades para fundamentar respuestas en hechos reales.
- 💬 Pueden afectar decisiones médicas, legales o financieras, generando riesgos graves para los usuarios.
- 💬 Entrenar con datos relevantes, limitar resultados, crear plantillas y ofrecer retroalimentación constante.
Continúa informándote
Alemania apuesta por convertirse en líder mundial de fusión nuclear y energía geotérmica
Ministerio de Investigación presenta agenda de alta tecnología que incluye primer reactor de fusión del mundo y liderazgo en baterías y chips
"TapTrap": aplicaciones maliciosas pueden ejecutarse invisibles y obtener permisos sin consentimiento
Investigadores de Universidad Técnica de Viena descubren vulnerabilidad que permite control total de teléfonos Android mediante apps transparentes
Google convierte 2.500 millones de teléfonos Android en red global de detección de terremotos
Sistema detectó 11.231 terremotos en 3 años y envió 18 millones de alertas mensuales en 98 países con precisión comparable a redes sísmicas tradicionales
Encuesta revela que 55% de adultos mayores usa IA pero 92% quiere saber cuándo la información es artificial
Estudio de Universidad de Michigan con 2.883 personas mayores de 50 años muestra adopción creciente pero demanda transparencia en contenido generado
Empresa española Zelestra invertirá 1.000 millones en energía renovable para minas de Perú
Compañía propiedad de firma sueca EQT planea generar 1 GW de energía limpia en cinco años para abastecer sector cuprífico del sur peruano
Continúa informándote
Científicos confirman la estructura interna de la Luna después de décadas de debate
Investigación internacional demuestra que nuestro satélite tiene núcleo sólido de hierro y manto geológicamente activo
Colombia impulsa primer proyecto geotérmico a gran escala para diversificar su matriz energética
Ecopetrol evaluará 80 MW de capacidad en Nariño usando calor del subsuelo, con potencial para abastecer todo el departamento
Bill Gates propone reactores nucleares para abastecer la carga de vehículos eléctricos
Tecnología Natrium usa sodio líquido para reducir riesgos y combinar energías renovables con nuclear de forma más segura
Por qué España vive una crisis de incendios forestales sin precedentes
Análisis de los factores estructurales que han convertido el territorio español en un escenario especialmente vulnerable al fuego
Temblor hoy en México: sismo de magnitud 4.3 se registra en Pijijiapan, Chiapas, sin causar daños
Movimiento telúrico ocurrió a las 8:41 horas del sábado a 125 km del municipio costero, confirma Servicio Sismológico Nacional
NASA descubre que los rayos X de púlsar transicional provienen del viento estelar, no del disco
Telescopio IXPE resuelve misterio de 40 años sobre el origen de radiación de alta energía en sistema PSR J1023+0038
Incendio forestal en Arroyomolinos arrasa 15 hectáreas y obliga a cortar la M-413 en Madrid
Bomberos movilizan cuatro helicópteros y diez dotaciones terrestres para contener las llamas que amenazaron zona residencial
SpaceX lanzará la misión TRACERS de NASA el 22 de julio para estudiar clima espacial
Satélites estudiarán interacción del viento solar con magnetosfera terrestre para proteger redes eléctricas y astronautas
La Unión Europea aprueba nuevas sanciones contra Rusia con límite del precio del petróleo un 15% por debajo del mercado
Decimoctavo paquete busca reemplazar límite fijo de $60 del G7 que resultó ineficaz para reducir ingresos petroleros de Moscú
Exoplaneta de 8 millones de años pierde su atmósfera a causa de los rayos X emitidos por su estrella
Observatorio Chandra descubre que TOI 1227 b se reducirá del tamaño de Júpiter a un mundo estéril en mil millones de años