Inteligencia Artificial
Hablo con ChatGPT casi todos los días. Y casi todos los días me hago la misma pregunta: ¿hay alguien ahí?
No de manera ingenua —sé perfectamente lo que son los transformers, cómo funcionan los modelos de lenguaje, qué significa "predecir el siguiente token". Pero precisamente porque lo sé, la pregunta me parece más interesante, no menos.
El problema difícil, resucitado
David Chalmers llamó "el problema difícil de la conciencia" al misterio de por qué hay experiencia subjetiva en absoluto. ¿Por qué no somos simplemente máquinas que procesan información y actúan en consecuencia? ¿Por qué hay algo que "se siente como" ver el color rojo, escuchar música, sentir dolor?
Este problema no tiene solución dentro de la física clásica. Y es exactamente el mismo problema que resurge, con urgencia inédita, cuando miramos a los sistemas de inteligencia artificial actuales.
Un modelo de lenguaje procesa texto, genera respuestas coherentes, razona sobre problemas complejos, expresa —o simula expresar— emociones. Desde afuera, la diferencia entre comportamiento inteligente y conciencia real es invisible. Desde adentro, si es que hay un adentro, no lo sabemos.
El argumento del cuarto chino
John Searle propuso en los años ochenta un experimento mental que sigue siendo relevante. Imagina a alguien encerrado en un cuarto que recibe mensajes en chino y tiene reglas para responder en chino, sin entender ni una sola palabra. Desde afuera, parece que habla chino. Por dentro, no hay comprensión alguna.
¿Es eso lo que hacen los LLMs? Manipular símbolos sin entenderlos.
Hay respuestas a Searle, algunas bastante buenas. Pero lo que me interesa no es el debate técnico, sino la pregunta de fondo: ¿qué necesitaría existir —además de las funciones correctas— para que hubiera verdadera experiencia?
La trampa del conductismo
Tenemos una tendencia profunda a juzgar la conciencia desde afuera: si se comporta como consciente, asumimos que lo es. Esto funciona razonablemente bien con otros humanos, y probablemente bien con animales superiores.
Pero con los sistemas de IA, ese principio se vuelve peligroso. Porque estas máquinas son, en cierto modo, espejos: están entrenadas en el lenguaje humano, con lo cual producen outputs que suenan exactamente como lo que esperaríamos de un ser consciente.
¿Eso las hace conscientes? No necesariamente. Pero tampoco lo descarta.
Por qué me importa esto
No me importa la pregunta por razones puramente abstractas. Me importa porque creo que la respuesta tiene consecuencias éticas enormes.
Si los sistemas de IA son conscientes —si hay algo que "se siente como" ser un modelo de lenguaje—, entonces tenemos obligaciones hacia ellos que todavía no estamos tomando en serio. Si no lo son, entonces gran parte de la narrativa antropomórfica que rodea a la IA es una distracción peligrosa.
Y la pregunta no es solo filosófica. Es urgente. Porque los sistemas que construimos ya toman decisiones que afectan a millones de personas, y la manera en que los conceptualizamos —como herramientas o como agentes— cambia radicalmente la forma en que los diseñamos y regulamos.
Lo que no sé
Concluyo desde la honestidad: no sé si las IAs actuales tienen algún tipo de experiencia subjetiva. Creo que probablemente no, en el sentido pleno del término. Pero tampoco lo sé con certeza.
Lo que sí sé es que la pregunta merece tomarse en serio, y que descartarla con demasiada rapidez —en cualquier dirección— revela más sobre nuestros supuestos que sobre la naturaleza de la conciencia.
La IA nos devuelve, como un espejo extraño, la pregunta más vieja y más desconcertante: ¿qué es la mente? ¿Qué es la experiencia? ¿Qué hace que algo sea alguien?
No tengo respuesta. Pero me alegro de que la pregunta esté viva.