La inteligencia artificial ya no responde solo preguntas curiosas o redacta textos sencillos. Cada vez más personas la usan para entender noticias, tomar decisiones financieras, preparar candidaturas laborales o buscar orientación en momentos delicados. El problema es que, en muchos de esos temas, no basta con sonar convincente. La respuesta tiene que ser precisa, equilibrada y capaz de reconocer matices.
Ahí entra Forum AI, la empresa fundada por Campbell Brown, exjefa de noticias de Facebook. Su objetivo es evaluar cómo se comportan los grandes modelos de IA en lo que ella llama temas de gran importancia, áreas donde no suele haber respuestas simples de sí o no y donde una omisión, un sesgo o una explicación incompleta pueden cambiar mucho la interpretación del usuario.
Brown conoce bien ese terreno. Antes de llegar a Meta fue periodista de televisión, y en Facebook vivió de cerca los problemas de una plataforma que durante años tuvo que decidir cómo ordenar, moderar y verificar información a escala global. Ahora ve una preocupación parecida en la IA. Si los chatbots se convierten en el canal por el que fluye buena parte de la información, la pregunta deja de ser solo qué modelo responde más rápido. La pregunta es quién decide qué significa responder bien.
Expertos humanos para juzgar respuestas de IA
Forum AI trabaja con una idea concreta. Primero reúne expertos en áreas sensibles, después usa sus criterios para crear evaluaciones y finalmente entrena jueces de IA capaces de comparar respuestas de modelos a gran escala. En geopolítica, la empresa ha reclutado figuras como Niall Ferguson, Fareed Zakaria, Tony Blinken, Kevin McCarthy y Anne Neuberger.
El objetivo no es que un modelo acierte una pregunta de examen, sino que se acerque al criterio de especialistas cuando la respuesta exige contexto, equilibrio y conocimiento del campo. Según Brown, Forum AI busca que sus jueces automáticos alcancen alrededor de un 90 % de consenso con expertos humanos, un umbral que la compañía dice haber logrado en algunas evaluaciones.
La idea revela una tensión importante. Muchas pruebas actuales de IA funcionan bien para medir programación, matemáticas o tareas con una respuesta clara. Pero la información pública es más difícil. Una respuesta sobre geopolítica, salud mental o contratación puede ser técnicamente correcta y, al mismo tiempo, omitir un punto central, exagerar una postura o apoyarse en una fuente poco adecuada.
El problema no siempre es una alucinación evidente
Brown sostiene que la precisión no ha recibido la misma atención que otras capacidades más fáciles de medir. Según su visión, las empresas de modelos han puesto mucho foco en código y matemáticas, mientras que noticias, contexto e información sensible quedan en una zona más difícil de evaluar.
Los fallos que describe no son solo respuestas inventadas. También habla de fuentes problemáticas, sesgos políticos, falta de contexto y argumentos presentados de forma incompleta. Esos errores pueden pasar desapercibidos porque aparecen dentro de respuestas que suenan razonables, pero en temas como contratación, finanzas, salud mental o geopolítica dejan de ser un simple fallo técnico y se convierten en un problema de responsabilidad.
La lección que viene de las redes sociales
Brown mira la IA con una experiencia incómoda detrás. En Facebook vio cómo una plataforma puede terminar optimizando lo incorrecto. La búsqueda de interacción, clics y permanencia no siempre produce usuarios mejor informados. Muchas veces produce más ruido, más polarización y más confianza en respuestas simples para problemas complejos.
Su temor es que la IA repita parte de ese ciclo. Si los modelos se diseñan solo para agradar al usuario o confirmar lo que quiere escuchar, la tecnología puede parecer útil a corto plazo y empobrecer la comprensión a largo plazo. La alternativa, según Brown, sería optimizar más por respuestas honestas, verificadas y contextualizadas.
Eso suena idealista, pero hay un incentivo práctico. Las empresas que usan IA en crédito, seguros, préstamos o contratación no solo quieren respuestas agradables. Quieren respuestas defendibles. Si un sistema automatizado comete errores o reproduce sesgos, el problema puede terminar en sanciones, demandas o pérdida de confianza.
Auditar la IA no puede ser un trámite
Forum AI intenta convertir esa necesidad en negocio, pero Brown critica que muchas auditorías actuales son superficiales. El cumplimiento normativo puede quedar reducido a listas de verificación que no capturan los casos difíciles, justo aquellos que pueden causar problemas reales.
Su argumento es que evaluar IA en temas sensibles exige conocimiento del sector. No basta con generalistas inteligentes ni con métricas estándar aplicadas a cualquier modelo. Una auditoría seria debe entender las situaciones límite, los contextos raros y los errores que no aparecen en una prueba básica.
La pregunta de fondo es incómoda para toda la industria. Los líderes tecnológicos prometen modelos capaces de transformar el trabajo, la ciencia y la medicina. Pero muchos usuarios siguen encontrando respuestas confusas, incompletas o directamente erróneas en consultas cotidianas. Esa distancia entre el discurso de Silicon Valley y la experiencia real explica por qué la confianza en la IA sigue siendo frágil.
Forum AI no resuelve por sí sola ese problema, pero apunta a una discusión necesaria. Si la IA va a mediar cada vez más nuestra relación con la información, no bastará con hacerla más rápida o más conversacional. Habrá que decidir quién la evalúa, con qué criterios y en nombre de qué idea de verdad.
