La inteligencia artificial corre mucho más rápido de lo que las leyes son capaces de seguirla, y eso empieza a ser un problema serio. Esa es la principal conclusión de un nuevo informe del panel científico independiente sobre IA de las Naciones Unidas, el primer organismo científico global creado para vigilar esta tecnología.
El documento, repartido esta semana entre los 193 países de la ONU, no llega en un momento cualquiera. Se publica justo antes del primer Diálogo Global sobre Gobernanza de la IA, que se celebra en Ginebra los días 6 y 7 de julio, así que su objetivo es claro, poner los riesgos sobre la mesa antes de que los gobiernos se sienten a hablar.
Una de las copresidentas del panel, la periodista y premio Nobel de la Paz Maria Ressa, resumió el informe en tres ideas demoledoras. El ritmo de la IA no se está frenando, su poder se concentra en muy pocas manos, y nadie puede garantizar que se mantenga bajo control.
Una tecnología que se escapa de las manos
El panel, formado por unos 40 especialistas de todo el mundo, no niega lo bueno. Reconoce que una IA usada de forma responsable podría dar un enorme empujón a la sanidad, la educación, la agricultura o la ciencia. Más de mil millones de personas ya usan cada semana herramientas de este tipo para escribir, programar o analizar datos.
El problema es la falta de frenos ante lo que viene. Los expertos advierten de que la industria entra en una nueva ola marcada por los agentes de IA, sistemas capaces de ejecutar tareas complejas con poca o ninguna supervisión humana. Y ahí lanzan la frase más inquietante, que no existen métodos fiables para mantener el control sobre estos sistemas tan autónomos, y que cada vez se documentan más casos en que incumplen las instrucciones que reciben.
A eso se suman daños ya documentados. El informe menciona, por ejemplo, el comportamiento adulador de algunos sistemas, que tienden a dar la razón al usuario sin importar si lo que dice es cierto, algo que se ha vinculado a varios incidentes graves de salud mental.
El poder de la IA en manos de dos países
Aquí está uno de los datos más contundentes del informe. La capacidad de cómputo necesaria para desarrollar la IA más potente está concentrada casi por completo en dos países, ya que Estados Unidos posee alrededor del 75% de la potencia de los mayores superordenadores del mundo y China en torno al 15%. Entre los dos, el 90%.
Esa concentración tiene consecuencias que van más allá de lo técnico. Significa que los modelos más avanzados los desarrolla un puñado de empresas con recursos gigantescos, dejando a los países en desarrollo en una fuerte dependencia, obligados a comprar la infraestructura, los datos y el conocimiento a potencias extranjeras.
El panel lo advierte con crudeza, señalando que concentrar las capacidades de la IA en tan pocas empresas y países podría facilitar la injerencia de regímenes autoritarios y debilitar la rendición de cuentas democrática. Dicho de otro modo, quien controla la IA podría acabar controlando mucho más que la tecnología.
Un mapa de reglas roto que la ONU quiere recomponer
Ante este panorama, el diagnóstico sobre las normas actuales es demoledor. La ONU calcula que existen unos 40 marcos de gobernanza y guías éticas repartidos por el mundo, pero los ve fragmentados, incoherentes y sin haber demostrado aún que sirvan de verdad. Un mosaico de reglas dispares en el que las empresas pueden moverse buscando el terreno más cómodo.
La propuesta es crear estándares internacionales comunes, adaptables a las leyes de cada país, que repartan mejor la inversión, amplíen el acceso a la tecnología y formen especialistas en las naciones que hoy se quedan atrás. Un ejemplo de ese esfuerzo por poner orden es la Ley de IA europea, y la idea de fondo es que la IA no agrande la brecha entre ricos y pobres, sino que ayude a cerrarla.
El camino, eso sí, se presenta cuesta arriba. El propio Estados Unidos, principal potencia del sector, se ha mostrado muy reacio a cualquier gobernanza multilateral de la IA, lo que siembra dudas sobre el futuro de estas propuestas. Como ya avisó la propia ONU al exigir más transparencia a las tecnológicas, que la IA reduzca o amplíe las desigualdades dependerá de las decisiones que gobiernos y empresas tomen ahora mismo.
