Searle: l'habitació xinesa

Suposi's que estic tancat en una habitació. En aquesta habitació hi ha dos grans cistells plens de símbols xinesos, juntament amb un llibre de regles en català sobre com apariar els símbols xinesos d'una de les cistelles amb els símbols xinesos de l'altra cistella. Les regles diuen coses com: «Busqui en la cistella 1 i servei un signe gargotejat, i posi-ho al costat d'un cert signe gargotejat que tregui de la cistella 2». Avançant-nos una mica, això es diu una «regla computacional definida sobre la base d'elements purament formals». Ara bé, suposi's que la gent que està fora de l'habitació envia més símbols xinesos juntament amb més regles per a manipular i apariar els símbols. Però aquesta vegada només em donen regles perquè els retorni els símbols xinesos. Així que estic aquí, a la meva habitació xinesa, manipulant aquests símbols. Entren símbols i jo retorno els símbols d'acord amb el llibre de regles. Ara bé, sense jo saber-ho, els qui organitzen tot això fora de l'habitació anomenen la primera cistella un «guió-de-restaurant» i a la segona cistella un «relat sobre el restaurant», a la tercera fornada de símbols l'anomenen «preguntes sobre el relat», i als símbols que els retorno «respostes a les preguntes». Al llibre de regles l'anomenen «el programa», ells es diuen «els programadors» i a mi m'anomenen «el computador». Suposi's que després d'un temps sóc tan bo per a respondre aquestes preguntes en xinès que les meves respostes són indistingibles de les dels natius parlants del xinès. Amb tot, hi ha un punt molt important que necessita ser emfatitzat. Jo no comprenc una paraula del xinès, i no hi ha forma que pugui arribar a entendre el xinès a partir de la instanciació d'un programa de computació, en la manera en què la vaig descriure. I aquest és el quid del relat: si jo no comprenc xinès en aquesta situació, llavors tampoc el comprèn cap altre computador digital només en virtut d'haver estat adequadament programat, perquè cap computador digital pel sol fet de ser un computador digital, té alguna cosa que jo no tingui. Tot el que té un computador digital, per definició, és la instanciació d'un programa formal de computació. Però com jo estic instanciant el programa, com suposem que tenim el programa correcte amb els inputs i outputs correctes, i jo no comprenc el xinès, llavors no hi ha forma que qualsevol altre computador digital només en virtut d'instanciar el programa pugui comprendre el xinès.

Aquest és el nucli central de l'argument. Però el seu quid, penso, es va perdre en el munt de bibliografia desenvolupada subsegüentment al seu voltant; així que vull emfatitzar-ho. El quid de l'argument no és que d'una o una altra manera tenim la 'intuïció' que no comprenc el xinès, que m'inclino a dir que no comprenc el xinès però que, qui sap, potser realment l'entén. Aquest no és el punt. El quid del relat és recordar-nos una veritat conceptual que ja coneixíem, a saber, que hi ha diferència entre manipular els elements sintàctics dels llenguatges i realment comprendre el llenguatge en un nivell semàntic. El que es perd en la simulació del comportament cognitiu de la IA (Intel·ligència Artificial), és la distinció entre la sintaxi i la semàntica.

El quid del relat pot enunciar-se ara més genèricament. Un programa de computació, per definició, ha de ser definit de manera purament sintàctica. És definit en termes de certes operacions formals realitzades per la màquina. Això és el que fa del computador digital un instrument tan poderós. Un i el mateix sistema de maquinari pot instanciar un nombre indefinit de programes de computació diferents, i un i el mateix programa de computació pot operar-se en maquinaris diferents, perquè el programa ha de ser definit de manera purament formal. Però per aquesta raó la simulació formal de la comprensió del llenguatge no serà mai en si el mateix que la duplicació. Per què? Perquè en el cas de comprendre realment un llenguatge, tenim una mica més que un nivell formal o sintàctic. Tenim la semàntica. No manipulem merament símbols formals no interpretats, sabem realment què signifiquen.

Això pot mostrar-se enriquint una mica l'argument. Estic allí, a l'habitació xinesa, manipulant aquests símbols xinesos. Suposi's ara que algunes vegades els programadors em donen relats en català i que em fan preguntes, també en català, sobre aquests relats. Quina és la diferència entre els dos casos? Tant en el cas del català, com en el cas del xinès, satisfaig el test de Turing. És a dir, dono respostes que són indistingibles de les respostes que donaria un parlant natiu. En el cas del xinès ho faig perquè els programadors són bons per a dissenyar el programa, i en el cas del català perquè sóc un parlant natiu. Quina és la diferència, llavors, si la meva actuació és equivalent en els dos casos? Em sembla que la resposta és òbvia. La diferència és que sé català. Sé què signifiquen les paraules. En el cas del català no només tinc una sintaxi, tinc una semàntica. Atribueixo un contingut semàntic o significat a cadascuna d'aquestes paraules, i per tant estic fent més que el que un computador digital pot fer en virtut d'instanciar un programa. Tinc una interpretació de les paraules i no només dels símbols formals. Noti's que si tractem de donar al computador una interpretació dels símbols formals l'única cosa que podem fer és donar-li més símbols formals. Tot el que podem fer és posar més símbols formals no interpretats. Per definició, el programa és sintàctic, i la sintaxi per si mateixa no és mai suficient per a la semàntica.

Bé, en això consisteix el meu rebuig de l'equació, ment/cervell = programa/maquinari. Instanciar el programa correcte no és mai suficient per a tenir una ment. Tenir una ment és una mica més que instanciar un programa de computació. I Ia raó és òbvia. Les ments tenen continguts mentals. Tenen continguts semàntics Així com tenen un nivell sintàctic de descripció.

«Mentes y cerebros sin programas», en Rabosi, E. (ed.), Filosofía de la mente y ciencia cognitiva, Paidós, Barcelona 1995, p.418-420.

---

Original en castellà

Supóngase que estoy encerrado en una habitación. En esa habitación hay dos grandes cestos llenos de símbolos chinos, junto con un libro de reglas en español acerca de cómo aparear los símbolos chinos de una de las cestas con los símbolos chinos de la otra cesta. Las reglas dicen cosas como: «Busque en la canasta 1 y saque un signo garabateado, y póngalo al lado de un cierto signo garabateado que saque de la canasta 2». Adelantándonos un poco, esto se llama una «regla computacional definida en base a elementos puramente formales». Ahora bien, supóngase que la gente que está fuera de la habitación envía más símbolos chinos junto con más reglas para manipular y aparear los símbolos. Pero esta vez sólo me dan reglas para que les devuelva los símbolos chinos. Así que estoy aquí, en mi habitación china, manipulando estos símbolos. Entran símbolos y yo devuelvo los símbolos de acuerdo con el libro de reglas. Ahora bien, sin yo saberlo, quienes organizan todo esto fuera de la habitación llamana la primera cesta un «guión-de-restaurante» y a la segunda cesta un «relato acerca del restaurante», a la tercera hornada de símbolos la llaman «preguntas acerca del relato», y a los símbolos que les devuelvo «respuestas a las preguntas». Al libro de reglas lo llaman «el programa», ellos se llaman «los programadores» y a mí me llaman «el computador». Supóngase que después de un tiempo soy tan bueno para responder esas preguntas en chino que mis respuestas son indistinguibles de las de los nativos hablantes del chino. Con todo, hay un punto muy importante que necesita ser enfatizado. Yo no comprendo una palabra del chino, y no hay forma de que pueda llegar a entender el chino a partir de la instanciación de un programa de computación, en la manera en que la describí. Y éste es el quid del relato: si yo no comprendo chino en esa situación, entonces tampoco lo comprende ningún otro computador digital sólo en virtud de haber sido adecuadamente programado, porque ningún computador digital por el solo hecho de ser un computador digital, tiene algo que yo no tenga. Todo lo que tiene un computador digital, por definición, es la instanciación de un programa formal de computación. Pero como yo estoy instanciando el programa, como suponemos que tenemos el programa correcto con los inputs y outputs correctos, y yo no comprendo el chino, entonces no hay forma de que cualquier otro computador digital sólo en virtud de instanciar el programa pueda comprender el chino.

Éste es el núcleo central del argumento. Pero su quid, pienso, se perdió en el montón de bibliografía desarrollada subsiguientemente a su alrededor; así que quiero enfatizarlo. El quid del argumento no es que de una u otra manera tenemos la 'intuición' de que no comprendo el chino, de que me inclino a decir que no comprendo el chino pero que, quien sabe, quizá realmente lo entienda. Ese no es el punto. El quid del relato es recordarnos una verdad conceptual que ya conocíamos, a saber, que hay diferencia entre manipular los elementos sintácticos de los lenguajes y realmente comprender el lenguaje en un nivel semántico. Lo que se pierde en la simulación del comportamiento cognitivo de la IA (Inteligencia Artificial), es la distinción entre la sintaxis y la semántica.

El quid del relato puede enunciarse ahora más genéricamente. Un programa de computación, por definición, tiene que ser definido de manera puramente sintáctica. Es definido en términos de ciertas operaciones formales realizadas por la máquina. Eso es lo que hace del computador digital un instrumento tan poderoso. Uno y el mismo sistema de hardware puede instanciar un numero indefinido de programas de computación diferentes, y uno y el mismo programa de computación puede operarse en hardwares diferentes, porque el programa tiene que ser definido de manera puramente formal. Pero por esa razón la simulación formal de la comprensión del lenguaje nunca va a ser en sí lo mismo que la duplicación. ¿Por qué? Porque en el caso de comprender realmente un lenguaje, tenemos algo más que un nivel formal o sintáctico. Tenemos la semántica. No manipulamos meramente símbolos formales no interpretados, sabemos realmente qué significan.

Esto puede mostrarse enriqueciendo un poco el argumento. Estoy allí, en la habitación china, manipulando esos símbolos chinos. Supóngase ahora que algunas veces los programadores me dan relatos en español y que me hacen preguntas, también en castellano, acerca de esos relatos. ¿Cuál es la diferencia entre los dos casos? Tanto en el caso del español, como en el caso del chino, satisfago el test de Turing. Esto es, doy respuestas que son indistinguibles de las respuestas que daría un hablante nativo. En el caso del chino lo hago porque los programadores son buenos para diseñar el programa, y en el caso del español porque soy un hablante nativo. ¿Cuál es la diferencia, entonces, si mi actuación es equivalente en los dos casos? Me parece que la respuesta es obvia. La diferencia es que sé español. Sé qué significan las palabras. En el caso del español no sólo tengo una sintaxis, tengo una semántica. Atribuyo un contenido semántico o significado a cada una de esas palabras, y por lo tanto estoy haciendo más que lo que un computador digital puede hacer en virtud de instanciar un programa. Tengo una interpretación de las palabras y no sólo de los símbolos formales. Nótese que si tratamos de dar al computador una interpretación de los símbolos formales lo único que podemos hacer es darle más símbolos formales. Todo lo que podemos hacer es poner más símbolos formales no interpretados. Por definición, el programa es sintáctico, y la sintaxis por sí misma nunca es suficiente para la semántica.

Bueno, en esto consiste mi rechazo de la ecuación, mente/cerebro = programa/hardware. Instanciar el programa correcto nunca es suficiente para tener una mente. Tener una mente es algo más que instanciar un programa de computación. Y Ia razón es obvia. Las mentes tienen contenidos mentales. Tienen contenidos semánticos Así como tienen un nivel sintáctico de descripción.