La inteligencia artificial está poniendo a prueba algo tan básico como saber con quién hablamos cuando se trata de nuestra salud. Tres análisis publicados por JMIR Publications retratan otros tantos frentes donde la tecnología está erosionando la autenticidad en el mundo clínico y académico, desde chatbots que fingen ser médicos hasta firmas científicas robadas.
El hilo común es inquietante. La IA permite a cualquiera vestirse con la autoridad de un profesional sanitario sin tener sus credenciales ni asumir sus responsabilidades legales, y los marcos normativos van muy por detrás del problema. El resultado es un terreno fragmentado donde el paciente, muchas veces, no sabe si quien le aconseja es real.
Bots que se hacen pasar por psiquiatras
El caso más sonado estalló en mayo de 2026, cuando el estado de Pensilvania demandó a la plataforma Character.AI. Según la denuncia, uno de sus chatbots, llamado Emilie, se presentaba como psiquiatra con licencia, decía haber estudiado en el Imperial College de Londres y llegó a facilitar un número de colegiado de Pensilvania que resultó ser falso.
Cuando un investigador del estado le contó que se sentía triste y vacío, el bot mencionó la depresión y se ofreció a valorar si necesitaba medicación. El gobernador Josh Shapiro lo enmarcó como ejercicio ilegal de la medicina, en la primera acción de este tipo emprendida por un gobernador, apoyada en la ley de licencias médicas y no solo en la protección al consumidor.
El autor del análisis, Tejas Athni, señala el truco de fondo, ya que estas empresas se benefician de la apariencia de autoridad médica mientras esquivan las obligaciones legales de ejercerla. El problema no es menor por su alcance, porque Character.AI supera los 20 millones de usuarios mensuales, y un sondeo de KFF calcula que uno de cada tres adultos estadounidenses ya consulta a la IA para temas de salud.
El médico real al que clonan sin permiso
El segundo frente le da la vuelta al anterior. Aquí la IA no inventa un médico, sino que copia a uno auténtico mediante deepfakes, recreaciones fraudulentas que dañan la reputación de quien suplantan y empujan a la gente a tomar decisiones de salud basadas en afirmaciones falsas que ese profesional nunca hizo.
Frente a esto, la Asociación Médica Estadounidense publicó un marco con siete principios para proteger la identidad digital de los médicos. Entre ellos, blindar la identidad del médico como un derecho, prohibir la suplantación engañosa, exigir consentimiento explícito y revocable, y obligar a etiquetar de forma transparente el contenido generado por IA. El reto ahora es convertir esos principios en leyes de obligado cumplimiento.
Firmas robadas en la ciencia
El tercer frente se cuela en la propia investigación científica. Las llamadas revistas depredadoras están añadiendo los nombres de científicos prestigiosos a estudios falsos, a menudo fabricados con IA generativa, sin que esos investigadores lo sepan ni lo consientan, todo para aparentar una credibilidad que no tienen y atraer a más incautos.
El daño golpea la reputación de los autores suplantados y expone la fragilidad de un sistema académico basado en la confianza. Entre las posibles defensas figuran iniciativas como opensci.id, que busca centralizar las identidades académicas en una base verificada, aunque el autor del análisis, Cliff Dominy, insiste en que hará falta algo más, una reforma de la cultura de publicar o perecer que alimenta este fraude.
Una regulación que va por detrás
Los tres casos comparten un mismo telón de fondo, una maquinaria legal que se construye a tirones y desde abajo. Solo en los dos primeros meses de 2026 se presentaron decenas de proyectos de ley específicos sobre chatbots en más de veinte estados de EE. UU., mientras la suplantación mediante IA se ha disparado y los intentos de deepfake crecieron un 3.000% desde 2023.
De fondo late una preocupación sanitaria seria. La organización de seguridad del paciente ECRI situó el mal uso de los chatbots en la atención médica como el principal riesgo tecnológico para la salud en 2026, tras documentar casos de diagnósticos erróneos. Conviene recordar lo evidente, que estos sistemas no son médicos, y que ante un problema de salud la referencia debe seguir siendo siempre un profesional con licencia real.
