Ha muerto John Searle, y con él se va el aguafiestas oficial de Silicon Valley, el filósofo que durante más de cuarenta años se dedicó a pinchar el globo de la Inteligencia Artificial con un alfiler de pensamiento elegante y certero: el experimento de la Habitación China. Justo cuando el mundo se maravilla con los prodigios de las IA generativas y las grandes tecnológicas anuncian la inminente llegada de una Inteligencia Artificial General (AGI) capaz de razonar como nosotros, Searle nos susurra desde la tumba una duda radical: ¿y si todo fuera un formidable engaño? ¿Y si la máquina más sofisticada no "entiende" nada, sino que se limita a ejecutar un truco de magia perfecto?

Imaginen la escena. Encierran a un tipo que no sabe ni una palabra de chino, como el propio Searle, por ejemplo, en una habitación. Dentro, solo tiene cajas repletas de símbolos chinos y un exhaustivo manual de instrucciones en español que le indica qué secuencia de símbolos debe sacar por una rendija en respuesta a los que le introducen por otra. Desde fuera, un hablante nativo de chino introduce preguntas escritas y, gracias al manual, el hombre de la habitación devuelve respuestas coherentes y pertinentes. Para el observador externo, la conclusión es obvia: quienquiera que esté dentro de la habitación entiende chino a la perfección.

Pero nosotros conocemos el truco. El hombre encerrado no tiene ni la más remota idea del significado de esos garabatos. Para él, son meras formas abstractas que manipula siguiendo unas reglas. No hay comprensión, no hay semántica, solo una sintaxis impecable. Y aquí viene el jaque mate de Searle: si el hombre no entiende chino, la habitación en su conjunto —el sistema completo— tampoco lo hace. Esa habitación es la IA generativa actual. Un sistema que puede simular la inteligencia de manera indistinguible de la real, pero que carece de la chispa esencial: la "conciencia", la "intencionalidad", el genuino entendimiento de lo que está haciendo.

Searle, un gigante de la filosofía del lenguaje y de la mente que desarrolló casi toda su carrera en la Universidad de California, Berkeley, lanzó esta bomba en 1980 y la onda expansiva resuena especialmente hoy.