TODOS SOMOS CUARTO CHINO

Autor: Prof. Tit. Jaime López

Resumen

Este trabajo intenta mostrar las limitaciones que tiene el argumento de John Searle contra el enfoque clásico simbólico de la inteligencia artificial fuerte. Este último propone una equiparación de un procesador lógico simbólico computacional con la actividad de la mente humana. El argumento de Searle, opuesto a la propuesta de la IA fuerte, se contrasta con la experiencia que provee la clínica psicoanalítica acerca del funcionamiento de esa mente.

WE ALL ARE THE CHINESE ROOM

Abstract
This paper aims to show the limitations of John Searle's argument against the classical approach symbolic of strong artificial intelligence. The latter proposes a matching symbolic logic processor computational activity of the human mind. Searle's argument, as opposed to the proposal of strong AI, is contrasted with the experience that provides the psychoanalytic clinic about the workings of that mind.

Introducción

El ejercicio imaginario que en 1980 realizó John Searle, en relación a los alcances y límites del paradigma informático como instrumento para entender la mente humana, fue denominado por su autor como “El Experimento del Cuarto Chino”(3-Searle,2006 pag. 118) (4- Boden, 1994. pag.82) ). Fue creado para refutar la tesis de la IA, de que los incipientes programas de comprensión del lenguaje natural (CYC) creados en la Universidad de Yale por Roger Schank y sus colaboradores, representaba un claro caso de actividad mental por parte de las máquinas.
El planteo de Searle (1980, 1994, 2006) consiste en la suposición de que él está encerrado en un cuarto y le hacen llegar escritos en chino. El no sabe nada de chino y estos son garabatos sin sentido. Luego recibe un conjunto de reglas, las que permiten relacionar las reglas con los escritos. Estas reglas están en un idioma que Searle entiende.
Estas reglas permiten correlacionar un conjunto de símbolos formales con otro conjunto de símbolos formales. Lo que “formal” significa acá, es que se pueden identificar los símbolos por su forma física. Luego le acercan otra tanda de símbolos chinos junto a otras instrucciones en el idioma que se comprende. Estas reglas permiten correlacionar la tercera tanda con las otras dos, y también lo instruyen sobre como producir ciertos símbolos chinos con cierta clase de formas como respuesta a otros símbolos chinos provenientes de la tercera tanda. Sin que Searle lo sepa, los que le envían las tandas e instrucciones, llaman a la primera tanda “un libreto”, a la segunda “un cuento” y a la tercera “preguntas” y a las contestaciones que realiza a la tercera “contestaciones a las preguntas”, así como definen con el término “programa” al conjunto de reglas en el idioma que si puede comprender.
Luego de un tiempo, es tan bueno en seguir las instrucciones que le permiten manipular los símbolos chinos que sus contestaciones a las preguntas son indistinguibles de las de los hablantes chinos nativos, sin que por eso Searle entienda nada de chino.
En el ejemplo, el autor funciona como una computadora, la cual manipulas reglas y símbolos sintácticamente sin que por eso pueda lograr el aspecto semántico propio de la comprensión. En una apretada síntesis, Searle se opone a que se pueda producir pensamiento solo por medios estrictamente formales e informáticos. Lo fundamenta con el argumento de que las manipulaciones de símbolos formales por sí mismos no tienen ninguna intencionalidad , es decir que no son significativas, que no son ni siquiera manipulaciones de símbolos, ya que los símbolos no significan nada. La intencionalidad que un programa de computación parece tener está solo en las mentes de aquellos que los escriben, quienes les dan las entradas e interpretan las salidas.
Este imaginario experimento tuvo muchos críticos y detractores, entre los más notorios se encuentran los planteos de Dennett y de Minsky. El primero lo acusa de una falacia: para Searle, si ninguna parte tiene comprensión, el todo tampoco puede tenerla. Argumento equivalente a proponer que si ninguna molécula de H2O “moja”, un conjunto mayor en su estado natural “líquido” tampoco podría realizarlo. Por otro lado, Minsky ejemplifica la función de “contener” con una caja que contiene un ratón. Si se desmontan las partes que constituyen la caja, ésta deja de contener al animal. Para él queda claro que no se puede atribuir a ninguna de las partes de la caja la propiedad de “contener”, sino solamente al conjunto de todas las partes.
De todos modos, para el propósito de este escrito, es necesario destacar que más allá de los argumentos que se propongan para determinar si se está frente a un acto de una mente artificial o no, es notorio que cuando se habla de “comprender” se está implícitamente haciendo referencia al problema de la conciencia.

La conciencia.
Curiosamente, el tema de la conciencia ha sido propuesto de innumerables formas desde la mega disciplina denominada Ciencia Cognitiva. Searle mismo tanto como Dennett, han dedicado textos enteros a tratar, desde el punto de vista de la Filosofía de la Mente, el problema de la conciencia. Para lo que interesa ahora, es útil recordar la discusión entre Hofstadter (1992) y el filósofo de Oxford Lucas J. R.(1- Hofstadter pag. 435 y 524)). Este último propone que “…un ser consciente puede ser conciente de si mismo, tal como lo es de otras cosas, y sin embargo no puede realmente, interpretárselo como un ser divisible en partes. Esto significa que un ser conciente puede abordar los problemas godelianos en una forma que no es accesible a una máquina, porque un ser conciente puede considerarse a si mismo y al mismo tiempo a su actuación, y sin embargo no ser algo distinto a lo que cumplió la actuación. Una máquina puede estar construida de modo que, ‘considere’ su actuación, pero no puede ‘tenerla en cuenta’, sin convertirse a causa de ello, en una máquina diferente: la misma máquina a la que se le agrega una ‘parte adicional’. Y lo intrínseco de nuestra noción de mente conciente es que puede reflexionar acerca de sí misma y someter a crítica sus propias actuaciones, sin que se requiera para ello el agregado de una nueva parte: ya está completa”. Lúcidamente, Hofstadter (1992) replica que la afirmación de Lucas debe hacer reflexionar sobre si es cierto que un ser humano es capaz de la transparencia que Lucas propone.
Es obvio que ésta disputa, en el contexto en el que se da -un físico y un filósofo batallando alrededor de las propuestas de la inteligencia artificial fuerte- suena como novedosa e impactante, pero si la misma es trasladada al campo de la psicología, se verá que hay muchos años de construcciones teóricas y de aplicaciones clínicas, que muestran un esfuerzo dedicado a trabajar el tema de las posibilidades y de los límites del concepto de conciencia.
El clásico planteo filosófico sobre la conciencia parece apoyarse en el dato de “evidencia” de la trasparencia de la conciencia a si misma. Este es el planteo que Lucas destaca en su confrontación. Afirma que no es posible que la conciencia no se capte a si misma como tal. Nada puede ser experimentado sin que el personaje en cuestión, pueda captarse en el interior de esa experiencia en una especie de reflexión inmediata.

Los límites de la conciencia.
La obra freudiana dejó siempre en un lugar incómodo a la conciencia, y lo que la experiencia del psicoanálisis muestra es más bien las ilusiones del lugar privilegiado de la conciencia. El eje central de la propuesta que Freud realizó, es la hipótesis de que en el hombre existe una forma de subjetividad que supera a lo que podría denominarse la suma de las experiencias individuales, incluyendo por supuesto a la conciencia en estas experiencias. Esto es algo que va en contra del planteo de Lucas, ya que este “superar” afecta justamente lo que este último autor denomina “un ser conciente que puede considerarse a si mismo y al mismo tiempo su actuación sin por eso ser una cosa distinta”. No es una cosa distinta, pero la complejidad de la naturaleza humana que Freud plantea, obliga a limitar esa consideración. En última instancia sería algo más cercano a la propuesta de Hofstadter, y que hace pensar que hay un límite para que el hombre pueda considerarse a si mismo y a su actuación de manera transparente. Otro autor, Jacques Lacan, denomina a esta subjetividad “un sistema organizado de símbolos que aspiran a abarcar la totalidad de una experiencia, animarla y darle su sentido” (Lacan, 1983, p.68).
Lo que esta afirmación enseña es que para entender la actividad humana no basta con ese aspecto que Serle define como conciencia, y por esta razón, se propone que lo que sucede dentro del cuarto chino, ese manejo de la estructura sintáctica, se parece mucho a lo que sucede en el universo del hombre. Ese punto de contacto podría ser el concepto de inconsciente que es la hipótesis principal de la teoría de Freud.
Este propone, en una forma simplificada, que las determinaciones que animan a la naturaleza humana no son para nada reducibles al concepto de conciencia. La idea novedosa fue la de la existencia de representaciones inconscientes. Esto equivale a algo que se inscribe en el hombre sin que éste lo sepa y de la misma manera puede retornarle sin que, también, lo sepa. Es decir, son representaciones sin conciencia, las que en su retorno, pueden producir efectos que el campo psicoanalítico ha denominado síntomas. En este sentido, la clínica freudiana ha demostrado sobradamente la importancia de este universo eficaz que se sitúa en un más allá de la conciencia y que determina en gran medida el modo de estar en el mundo de alguien.

Conclusiones
Lo arriba expresado no debe ser entendido como una propuesta simétrica entre el procesador simbólico sintáctico de una máquina y el inconsciente freudiano, ya que éste último debe ser pensado dentro de la condición erógena y sexuada del cuerpo humano. Para el psicoanálisis la sexualidad en el hombre es mucho más que la genitalidad y además es simbólica, en el sentido de que no es “natural”. Esto se debe a que la condición erógena del cuerpo sólo lo es en tanto y en cuanto lo atraviese, no solo el mundo de la cultura, sino el microcosmo simbólico que cualquier cría humana necesita para sobrevivir: la dependencia del otro, del semejante. Es obvio que nada de esto se juega en la propuesta de la IA.
Por lo tanto, esta comparación es solo a los fines de mostrar que lo que Searle denomina la oposición entre la máquina con mente, propias de la IA fuerte, versus la mente biológica, en donde la primera procesa sin conciencia y la segunda no, es un argumento limitado. Lo es en función de que la misma naturaleza humana se muestra capaz de procesar elementos, se los puede llamar representaciones, sin tener porqué apelar al concepto de conciencia. En ese sentido, el planteo de Hofstadter que se enumeró mas arriba es más cercano a la evidencia que la clínica freudiana ofrece.

Bercherie, Paul (1988) Génesis de los conceptos freudianos. Buenos Aires. Ed. Paidós
(4)Boden, Margaret (1994) Filosofía de la Inteligencia Artificial. México. Ed. Fondo de Cultura
Freud, Sigmund ( 1948) Lo inconsciente. Obras Completas. Madrid. Ed. Biblioteca Nueva.

(1)Hofstadter, D. (1992) Godel, Escher, Bach. Un eterno y grácil bucle. Barcelona: Tursquets.
Lacan, Jacques ( 1971) Escritos I Ed. Siglo XXI
(1975) Escritos II Ed. Siglo XXI.
(2)Lacan, J. (1983). El Yo en la teoría de Freud y en la técnica psicoanalítica. Buenos Aires: Paidós.
(3) Searle, J. (1980) "Minds, Brains, and Programs". The Behavioral and Brian Sciences. Cambrigde University Press.
Searle, J. (2006) La Mente. Una breve introducción. Bogotá. Ed. Norma.
Searle, J. (1994). Mentes, Cerebros y Ciencia. Madrid: Cátedra.