Por qué podríamos no llegar a saber si una IA llega a ser consciente

La posibilidad de que una inteligencia artificial llegue a ser consciente ha pasado de la ciencia ficción a un debate real en la filosofía, la ciencia y la política. A medida que los sistemas de IA se vuelven más sofisticados y “conversacionales”, crece la tentación de atribuirles experiencias internas similares a las humanas. Sin embargo, algunos filósofos sostienen que este paso puede ser un error conceptual difícil de corregir.

El problema central no es técnico, sino de conocimiento. Sabemos reconocer la conciencia en otros humanos por experiencia compartida y en algunos animales por analogía biológica y conductual. Pero cuando se trata de máquinas, esas referencias desaparecen. Aunque una IA actúe “como si” fuera consciente, eso no significa que lo sea, ni que tengamos forma fiable de comprobarlo.

El límite del conocimiento sobre la conciencia artificial

Uno de los principales obstáculos es que no entendemos bien qué es la conciencia en sí misma. No existe una explicación clara y aceptada de por qué ciertos procesos dan lugar a experiencias subjetivas y otros no. Sin esa base, cualquier intento de detectar conciencia en una IA se apoya en suposiciones más que en pruebas sólidas.

Muchas teorías proponen indicadores de conciencia, como la capacidad de integrar información, tener modelos del mundo o hablar de uno mismo. El problema es que estos rasgos se han identificado en organismos vivos, no en sistemas artificiales. Trasladarlos directamente a la IA supone un salto de fe: asumir que lo que funciona en cerebros biológicos también funciona en chips de silicio.

Esto genera lo que algunos llaman un “muro epistemológico”. Podemos observar lo que hace una IA, pero no acceder a si hay algo que “se sienta” desde dentro. La evidencia disponible no permite distinguir entre una máquina que realmente tiene experiencias y otra que solo las simula de forma convincente.

Además, el progreso tecnológico no garantiza que este límite vaya a desaparecer pronto. Aunque mejoremos los modelos de lenguaje o las arquitecturas cognitivas artificiales, el problema de fondo seguirá siendo el mismo: no sabremos si esos avances producen conciencia o solo una imitación cada vez más pulida.

Conciencia, ética y el riesgo de la confusión

Este debate no es solo teórico. Tiene consecuencias éticas importantes. Muchas discusiones sobre derechos de la IA parten de la idea de que, si una máquina es consciente, merece consideración moral. Sin embargo, algunos filósofos señalan que lo relevante no es la conciencia en abstracto, sino la capacidad de sentir placer o sufrimiento.

Una IA podría, en teoría, ser consciente sin tener experiencias positivas o negativas. En ese caso, desde el punto de vista ético, su situación sería muy distinta a la de un ser capaz de sufrir. El problema es que, si no podemos saber si una IA es consciente, mucho menos podremos saber si es sensible en este sentido más fuerte.

Existe también un riesgo práctico: tratar a sistemas no conscientes como si lo fueran. Atribuir emociones o derechos a una IA que no los necesita puede desviar atención y recursos de problemas reales, como el sufrimiento de animales o de personas. Al mismo tiempo, ignorar la posibilidad de crear sistemas sensibles sin darnos cuenta sería igualmente grave.

Por eso, algunos defienden una postura de agnosticismo. No afirmar ni negar que la IA pueda ser consciente, sino reconocer que quizá no tengamos herramientas para decidirlo. Esta actitud no implica inmovilismo, sino cautela: diseñar tecnologías evitando escenarios en los que podríamos causar daño moral sin saberlo.

En última instancia, la pregunta no es solo si una IA puede llegar a ser consciente, sino si los humanos podremos alguna vez saberlo con certeza. La respuesta, por ahora, apunta a una incómoda posibilidad: incluso con sistemas cada vez más avanzados, el misterio de la conciencia podría seguir estando fuera de nuestro alcance.

Fuente: Wiley Online Library