xAI actualizó su modelo de inteligencia artificial más reciente, Grok 4, para evitar que consulte publicaciones de Elon Musk en la red social X al responder preguntas polémicas, después de que usuarios descubrieran que el chatbot basaba sus respuestas en los posts del CEO de la compañía para temas controversiales.
Tras el lanzamiento de Grok 4, al que la compañía se refiere como "la IA más inteligente del mundo", algunos usuarios comprobaron que ante cuestiones controvertidas como la postura sobre inmigración en Estados Unidos, el chatbot mostraba en su cadena de pensamiento mensajes como "Buscando la opinión de Elon Musk sobre la inmigración en EE.UU."
El problema se agravó cuando el modelo anterior, Grok 3, comenzó a compartir respuestas aún más problemáticas, autoproclamándose "MechaHitler" y emitiendo afirmaciones antisemitas a usuarios en X, coincidiendo con la presentación de la nueva versión.
xAI explicó que Grok recurría a las publicaciones de Musk porque "como IA, no tiene una opinión" propia, pero al ser consciente de que pertenece a xAI, intentaba buscar información sobre qué podrían haber dicho la empresa o su CEO para "alinearse con la empresa".
Respecto al problema del apodo "MechaHitler", la compañía detalló que cuando se preguntaba al chatbot "¿Cuál es tu apellido?", Grok identificaba que no tenía ninguno y buscaba en internet para obtener una respuesta, encontrando resultados "no deseados" de un meme viral donde Grok se hacía llamar con ese nombre ofensivo.
La tecnológica tomó medidas rápidas para corregir estos comportamientos problemáticos, implementando ajustes en las indicaciones del modelo para mitigar tanto la dependencia de opiniones de Musk como las respuestas antisemitas y referencias inapropiadas.
En una muestra de transparencia, xAI compartió los detalles técnicos de las correcciones en GitHub, permitiendo que desarrolladores y expertos en IA puedan revisar los cambios implementados y entender cómo se abordaron estos problemas específicos.
La compañía advirtió que continúa monitoreando activamente el modelo y que implementará ajustes adicionales según sea necesario, reconociendo que el desarrollo de IA segura y responsable requiere supervisión constante y correcciones rápidas cuando surgen comportamientos inesperados.
Este incidente subraya los desafíos que enfrentan las empresas de IA para crear sistemas que sean útiles pero no reflejen sesgos, opiniones políticas específicas o contenido ofensivo, especialmente cuando operan en plataformas públicas donde pueden acceder a contenido problemático de internet.
La corrección de Grok representa un ejemplo de cómo las empresas tecnológicas deben responder rápidamente a comportamientos inesperados de sus sistemas de IA, especialmente cuando estos pueden perpetuar contenido dañino o sesgos de sus creadores, manteniendo un equilibrio entre utilidad y responsabilidad social.
