pjorge.com

43 respuestas por ahora ↓

• 1 antonio // 8 de May, 2007 a las 3:32 am

  Un tema que me encanta. Hace tiempo que leí el libro. Como tú dices, tiene la ventaja de abrir la puerta a más libros, entre ellos “la nueva mente del emperador”, de Roger Penrose. La teoría de Penrose es, ciertamente, rara y extravagante, nadie se la cree y yo tampoco…microtúbulos cuánticos en el cerebro??? El libro tiene muchas ideas totalmente discutibles, por ejemplo eso que citas tú de usar el teorema de Gödel para explicar la conciencia, pero al menos es divertido e interesante. Me da la impresión de que Roger se mueve mejor en la matemática que en estos temas más psicológicos… quizás se vuelve un poco esotérico.
  Y también el libro de Searle me dio a conocer a Daniel Dennett. Dennett es para mí el mejor, el que tiene las opiniones más razonadas y maduras. Viejo amigo de Dawkins, Hofstadter y otros grandes conocidos del género, tiene ensayos muy buenos (y un libro muy interesante sobre este tema: “la conciencia explicada”, aunque algo pesado de leer a ratos). Dennett es el que, al menos a mí, más me convence. Da la impresión de que ha meditado, investigado y comprendido este tema más que nadie. Su bibliografía es muy recomendable, y yo diría que es el mayor experto en la conciencia en este momento (aunque como el mismo reconoce, ni él ni nadie tiene una respuesta clara sobre este tema) Acerca de lo que dice Searle sobre que “Dennett niega la conciencia”…es simplemente falso. Es una de esas típicas exageraciones, parodias que se hacen de las ideas de otros para hacerlas parecer ridículas: ¡¿Me está diciendo señor Darwin que mi padre es un mono?! Pues eso…eso es lo que hace Searle con las teorías de Dennett.
  Lo dicho, un tema apasionante. El libro de Searle está bien, pero para mí es un autor muy conservador, “no se moja”, y sus opiniones son muy superficiales, creo yo, no demasiado profundas. Creo que su mejor aportación es cuando expone su argumento de “la caja china” que plantea preguntas realmente interesantes.

• 2 Lan // 8 de May, 2007 a las 8:09 pm

  Pues si el argumento de la habitación china es lo mejor que tiene apaga y vámonos. Es la clásica tontería ultra-simplificada que sólo convencería a alguien que ya esté totalmente convencido de que la IA es imposible.

• 3 Anonimo // 8 de May, 2007 a las 8:56 pm

  Asi que el cerebro es una maquina.

  Pero la consciencia existe.

  Pero la IA es imposible.

  Hmmmm …

  Al final van a tener razon los exotericos o los vacios-cuanticos-micro-tubulares …

  (lol)

• 4 antonio // 8 de May, 2007 a las 9:59 pm

  Estoy contigo, Lan, por eso dije que el autor no me convencía en absoluto. Si consideras trivial el argumento de la habitación china, seguro que el libro te parecerá más trivial aún. Es precisamente un autor que rechaza abiertamente que un ser artificial pueda ser consciente (o en la terminología del autor, IA fuerte). Y más que dar argumentos a su favor, se dedica a rebatir a esos últimos, como puede.

• 5 Carlos // 8 de May, 2007 a las 10:02 pm

  @Pjorge: más que negar la posibilidad de conciencia en cualquier máquina, Penrose (y otros) argumentan contra la posibilidad de que la conciencia sea algorítmica. Un dispositivo físico no-algorítmico (como Penrose argumenta que es el cerebro) sí podría dar lugar a una conciencia. Gran parte de los argumentos que presenta van precisamente en la línea de ligar implícitamente lo que entendemos por consciencia o identidad con fenómenos cuánticos (decoherencia, no clonación, …)

  @Antonio: Coincido plenamente en que Penrose es mejor matemático que psicólogo; ahora bien, si la hipótesis de la IA fuerte es cierta, la consciencia sería puramente matemática, por lo que Penrose tendría mucho que decir ;-). Más en serio, la conexión del Teorema de Gödel con la consciencia viene de bastante atrás. El mismo Turing la abordaba en su famoso artículo sobre la IA, y en mi opinión se desviaba del tema central, planteándola como cuestión de superioridad subjetiva del hombre sobre la máquina, en lugar de como limitación objetiva de esta última. Todo lo más deja caer que no está demostrado que no haya una limitacion análoga para la mente humana.

• 6 pjorge // 8 de May, 2007 a las 10:05 pm

  Bueno, Carlos, Searle niega que la consciencia sea algorítmica. En el caso de Penrose, no lo tengo tan claro. En cualquier caso, tu matización es muy válida. No se está negando la posibilidad de que una máquina llegue a ser consciente, sino que lo sea por métodos algorítmicos.

• 7 Lan // 8 de May, 2007 a las 11:25 pm

  Sostener que la consciencia es no-computable es simplemente confundir la incapacidad de imaginar el algoritmo que la produce con la necesidad de su inexistencia. A no ser que se recurran a argumentos absurdos del estilo vitalista (es que el carbono es especial sabe usted…) no hay absolutamente ningún motivo para asumir por principio que sea cual sea el modo en el que funciona el cerebro éste no puede ser duplicado en un computador de propósito general. Dentro de muchos años cuando las IAs se dediquen a perder el tiempo en los foros de la Web 5.0 los muy respetables señores que sostenían semejantes magufadas serán vistos con la misma entrañable condescendencia con la que ahora vemos a las personas que veían (¡o ven!) como algo auto-evidente que la Tierra es plana, que es el centro del Universo o que la macro-evolución es imposible. Cada vez que alguien sostiene mediante complejas teorías que somos especiales en algún sentido lo más seguro es que: a) se equivoque b) Occam se revuelva en su tu tumba.

  Ale, lo siento por el rant y a pasarlo bien

• 8 Carlos // 9 de May, 2007 a las 2:16 pm

  Lan, cuando dices que “no hay absolutamente ningún motivo para asumir por principio que sea cual sea el modo en el que funciona el cerebro éste no puede ser duplicado en un computador de propósito general”, es evidente que es cierto, pero eso no es lo que se debate. Si el modo de funcionamiento del cerebro es algorítmico, por definición es simulable en una máquina de Turing. La cuestión es si lo es o no, y sobre esto hay objeciones serias (que luego podrán demostrarse falsas o no), que no son reducibles a la falta de imaginación de alguien. Cambia en tu frase inicial “la consciencia” por “un algoritmo exacto para el TSP”, y “no-computable” por “de complejidad no polinómica”. ¿Serías igual de optimista en ese caso?

• 9 Lan // 9 de May, 2007 a las 3:35 pm

  En mi opinión comparar la computabilidad de la consciencia con una solución polinomial del TSP es falaz porque mientras que una solución polinomial del TSP es algo jamás visto existen ahora mismo 6.000 millones de “máquinas” conscientes en el planeta (más si incluyes a monos, delfines y políticos), y asumir que su funcionamiento es no-algorítmico es un salto de fe injustificado e innecesario. No lo veo muy diferente a atribuir los fenómenos naturales a diversos Dioses porque no se comprende su funcionamiento. ¿Explicaban los Dioses los fenómenos? Seguro ¿Añadían un innecesario nivel adicional de complejidad? También. A estas alturas deberíamos saber que dar explicaciones fantásticas sobre fenómenos que no se comprenden es la receta ideal para parecer un cantamañanas unos cuantos siglos más tarde.

  De cualquier forma me encantaría una lista de las supuestas objeciones “serias” a la IA fuerte, todo lo que he leído hasta el momento son siempre variaciones sobre el mismo tema que estamos comentando.

• 10 Lan // 9 de May, 2007 a las 3:39 pm

  Y por cierto, me parece que te contradices en tu comentario o es que yo me explico mal. Si lo que yo he dicho es “evidentemente cierto” entonces es que no hay ningún motivo de peso para, a priori, creer en la no-computabilidad de la consciencia (y es exactamente lo que debatimos :-))

• 11 Carlos // 9 de May, 2007 a las 4:23 pm

  Lan, cuando digo que lo que afirmas es “evidentemente cierto” estaba expresando eufemísticamente que es una tautología . “Sea cual sea el modo en el que funciona el cerebro” incluye el caso en que ese funcionamiento sea algorítmico, por lo que la consecuencia está contenida en la premisa.

  Dices que rechazar la tesis de la IA fuerte es cuestión de falta de imaginación, pero sin embargo rechazar P=NP con el mismo argumento es cuestión de realismo. Más aún, dado que hay 6000 millones de personas, al parecer se sigue que la consciencia es algorítmica, salvo salto de fe injustificado. Lo siento, pero no es así. La carga de la prueba está en el que afirma, ya sean soluciones polinómicas para un problema NP-completo, algoritmos conscientes, o los hombres verdes de las neveras.

  Tanto por este comentario tuyo como por el anterior, parece traslucir que lo que te preocupa es que la negación de la IA fuerte suponga darle algún status sobrenatural al hombre. Si es eso, la preocupación es totalmente infundada, ya que creo que ha quedado clara que el debate se plantea en términos de modelos de cómputo, no de cuestiones teológicas. Si quieres ver las objeciones que se han planteado a la IA fuerte, el artículo de Turing “Computing machinery and intelligence” es un buen punto de partida. De las objeciones ahí consideradas, muchas son hombres de paja que Turing derriba con facilidad razonando el términos más o menos generales. Las serias son aquellas en las que Turing baja el listón, y se limita a consideraciones relativas al juego de la imitación. Saludos.

• 12 Lan // 9 de May, 2007 a las 5:02 pm

  Si la consciencia fuese no computable no podría ser emulada en una máquina de Turing, pero no hay ningún motivo a priori para asumir que esto es así. Es lo único que mi frase pretendía decir y no creo que sea una tautología: no creo que haya ningún motivo para asumir a priori que la consciencia no es un proceso algorítmico y por lo tanto implementable en un ordenador de propósito general. Mejor?

  Estás de acuerdo en que el comportamiento de una ameba es algorítmico? El de un pez? El de un pájaro? Seguramente sí. El de un mono? El de un humano? No lo sabemos, pero en mí opinión la carga de la prueba reside en el que realiza afirmaciones extraordinarias estilo Penrose en vez de asumir por defecto que el comportamiento consciente es algorítmico pero extremadamente complejo. Lo mismo pero diferente: dos personas no comprenden el comportamiento de las leyes físicas en los primerísimos momentos del Big Bang. Una propone le existencia de un Ser Superior que crea el Universo en esos momentos y que no necesita seguir ningún tipo de reglas (postura no-computable). La otra dice simplemente que no sabe cómo ocurre pero que seguramente es perfectamente explicable (postura computable). En mi opinión la carga de la prueba reside en la primera, no en la segunda.

  Con las objeciones a la IA fuerte me refería a algún tipo de desarrollo “moderno” sobre el tema (Penrose, Searle y similares). Conozco el artículo de Turing y coincido básicamente en su respuesta a la tercera objeción. Mi principal crítica sobre este tipo de gente es que utilizan argumentos falaces o absurdos para demostrar la imposibilidad de la IA fuerte para a continuación lanzarse de cabeza a explicaciones fantasiosas sobre cómo funciona realmente la consciencia humana. No puedo evitar ver las similitudes entre el debate evolucionista-creacionista.

• 13 Carlos // 9 de May, 2007 a las 5:48 pm

  Lan, la reformulación de tu frase ya no es tautológica; el problema es que sí hay motivos a priori: hay muchas más funciones no computables que funciones computables, por lo que la suposición por defecto no tiene por qué ser que una cierta función aún no formulada es computable.

  No hay nada de extraordinario en esto, ni de sobrenatural en ninguna estructura matemática. No-computabilidad no significa magia o fantasía, sino simplemente pasar a un marco computacional diferente, y a diferencia de muchos modelos de hipercomputación, en el caso que nos ocupa con constancia de su realidad física. E insisto en relación a la carga de la prueba: si la tesis de la IA fuerte es cierta, existe una prueba constructiva. Si es falsa, puede haber una refutación matemática o puede no haberla. Hay quien trabaja para alcanzar la prueba constructiva, y quien lo hace en encontrar la refutación, pero el único que tiene garantizado encontrar la solución de estar en lo cierto es el primero. Saludos.

• 14 Lan // 9 de May, 2007 a las 6:46 pm

  Hasta donde yo lo veo las dos (o tres) formulaciones de mi frase dicen exactamente lo mismo, pero no es que sea precisamente importante…

  Que la mayor parte de las funciones sean no computables no me parece motivo suficiente para afirmar que a priori la consciencia humana es no computable. Mi argumento, como ya he comentado, es que me parece obvio que el comportamiento de la mayor parte de los demás seres vivos es perfectamente computable, así que soy receloso por naturaleza de la introducción gratuita de casos especiales (hey, vicios de informático!). Si me apuras hasta me parece evidente que el algoritmo de nuestra consciencia está entero en nuestro ADN y que esta discusión entera es una tontería, pero quizá haya buenos contra-argumentos para esto.

  Obviamente la no-computabilidad no es sobrenatural, pero nunca he leído ninguna descripción plausible de un hipercomutador que no sea “crank science”. Puedes darme ejemplos de hipercomputadores que realmente no sean reducibles a máquinas de Turing y que teóricamente pudiesen servir de base al funcionamiento del cerebro?

  Por cierto, tu último razonamiento me parece muy similar al de la cuestión ateismo/agnosticismo cambiando “IA fuerte” por “Existencia de Dios”. ¿Tienes la misma postura sobre ese tema?

  De cualquier forma, un placer charlar contigo, me agregaré tu blog al feed

• 15 Carlos // 9 de May, 2007 a las 9:54 pm

  Lan, vale, entiendo tu línea argumental al considerar un continuo entre diferentes seres vivos a lo largo de su evolución. Parece razonable que los eslabones inferiores de la cadena puedan ser descritos en términos algorítmicos (o si no, al menos de manera indistinguible a nuestros ojos), y que la consciencia sea un fenómeno emergente a partir de cierto umbral de complejidad. Esto último me parece innegable, aunque no estoy del todo seguro de la naturaleza cualitativa de esa complejidad. Básicamente, puede trazarse una analogía con la miniaturización de los componentes electrónicos. A partir de cierto nivel, empiezan a surgir fenómenos cuánticos que eran despreciables anteriormente. En la industria se intenta aprovechar esos fenómenos, o al menos mantenerlos bajo control de manera que los dispositivos funcionen según las especificaciones. Sin embargo, el camino que puede tomar la evolución natural no está sujeto a este tipo de limitaciones. Esto no quita para que efectivamente sea posible que no haya nada intrínsecamente no-algorítmico en el cerebro.

  Sobre hipercomputación, modelos matemáticos hay muchos, pero por supuesto modelos físicos es harina de otro costal. Hace falta un mayor conocimiento de las leyes físicas a muy bajo nivel, para ver si es posible generar y manejar números reales no computables. Si por ejemplo resulta que algo como la gravedad cuántica de bucles es una descripción ajustada de la realidad final, y todo, incluyendo el espacio y el tiempo es discreto, entonces es muy posible que la tesis física de Church-Turing sea cierta, y todo fenómeno físico (incluyendo la consciencia) sea computable. Hay un survey muy bueno sobre el tema de Toby Ord ( http://arxiv.org/abs/math/0209332 ).

  En realidad si te fijas mi postura sobre la IA fuerte es de agnosticismo débil. De hecho, confío en que se pueda tener una prueba en un sentido o en otro en algún futuro cercano. La cuestión religiosa es diferente, fundamentalmente por la aparente no falsabilidad de la misma.

  Igualmente es un placer charlar contigo. Nos leemos. Gracias y un saludo.

• 16 pjorge // 10 de May, 2007 a las 1:53 am

  Esta interesante la discusión. A ver si pongo lo de suscribirse a los comentarios…

• 17 Anónimo // 17 de May, 2007 a las 6:51 pm

  Amigos, no se escribe “consciencia”, se escribe “conciencia”.

• 18 pjorge // 17 de May, 2007 a las 7:12 pm

  ¿Eso es porque tú lo dices, o hay alguna razón de peso?

• 19 Juan Diego // 18 de May, 2007 a las 2:01 am

  Como no sea por economía (porque ahorras una ese)…

• 20 Caos, no linealidad, y espontaneidad en el comportamiento de los insectos « La Singularidad Desnuda // 19 de May, 2007 a las 3:20 pm

  [...] unos días Pjorge recuperaba una reseña sobre un libro de Jon Searle en el se que abordaba el tema de la consciencia humana. A raíz de [...]

• 21 Perez Poch // 19 de May, 2007 a las 4:38 pm

  Lan ha escrito

  “me parece evidente que el algoritmo de nuestra consciencia está entero en nuestro ADN y que esta discusión entera es una tontería”

  Mmmm… ¿no pensaste en ofrecer tus servicios como ‘proveedor de evidencias’ al proyecto Genoma Humano? Se habrían cotizado a precio de oro.

  Yo, que soy mas modesto, soy incapaz de ver cosas “evidentes” que tampoco sé muy bien que pintan aquí; por ejemplo, la relación de esta discusión con el debate evolucionismo/creacionismo. Y creo que mostrar que esto no tiene nada que ver, puede también ayudar a entender lo que Searle no entiende: la relación de las investigaciones de Gödel con la conciencia.

  Por de pronto, Penrose y su gente no hablan de una física “sobrenatural”, sino de teorías físicas que quizás resuelvan problemas que no están resueltos en las teorías actuales; y por cierto, no afirman que cuenten con esas teorías, sino que son líneas de investigación por desarrollar. No contraponen la física vigente con ningún relato religioso, sino con teorías nuevas que jugarían en el mismo terreno de juego -debate racional- que las actuales -y que la defensa de los modelos computacionales de la conciencia-.

  ¿En que medida esa teoría física nueva estaría relacionada con resolver el problema de la conciencia? Para Gödel, la conclusión sobre la incapacidad de la mente humana para superar las capacidades de una máquina fínita -o, lo que es lo mismo, de un sistema formal- pasa por alto que “la mente, en su uso, no es estática, sino que se desarrolla constantemente… aunque en cada etapa de su desarrollo el número de los estados posibles de la mente es fínito, no hay razón para que ese número no converja hacía el infinito en el curso de su despliegue”. Naturalmente, la afirmación de que la mente se desarrolla constantemente debe respaldarse en el estudio de la mente misma; es en el estudio cientifico de la mente donde se podrá comprobar ese crecimiento. Se postula una capacidad: igual que pueden demostrarse proposiciones indemostrables en una teoría desarrollando una teoría más compleja, puede la mente superar las limitaciones de cualquier simulación computacional.

  Pero la prueba de que vale para la mente lo que vale para los sistemas formales no puede ser matemática, sino relativa al estudio de la naturaleza. Es aquí dónde entrarían teorías fisicas nuevas, de las que Penrose espera además -por reflexión sobre su previsible estructura matemática- que puedan matar dos pajaros de un tiro: resolver cuestiones obstinadamente abiertas en física y dar cuenta de estas cuestiones sobre la mente.

  Naturalmente, la carga de la prueba de ese doble efecto está en Penrose. Pero mientras él asume esa carga, igual que otros asumen la de demostrar que la mente se reduce a simulación computacional, no queda muy correcto lanzar afrentas del tipo de “es un creacionista emboscado”. Entre otras cosas, porque así se cambia el debate cientifico por el debate personal, que es precisamente la especialidad de los creacionistas. Aparte, quedaría muy feo suponer que una teoría física es irracional simplemente porque no justifica la complicidad que sentimos respecto a nuestros juguetes favoritos.

  El propio Gödel sí que tenía creencias religiosas subyacentes -como Newton-, si bien nunca las trajo a colación en sus argumentaciones, que pueden estudiarse independientemente -como las de Newton-. De hecho, planteó un punto de vista que va más allá de “mente computable” -” mente no computable”: según él, una mente humana computable nunca podría saber que es computable -una tesis más conectada a su propia investigación sobre sistemas formales que la anterior-. Entonces, ¿la Inteligencia Artificial puede aumentar nuestro conocimiento sobre el ser humano?

• 22 Perez Poch // 19 de May, 2007 a las 4:47 pm

  Crick (La búsqueda cientifica del alma), sobre conciencia/consciencia:

  “… suelo usar conciencia -por ejemplo en ‘conciencia visual’- para algun aspecto concreto de la consciencia. Hay filósofos que distinguen entre ambs términos, pero no hay acuerdo general… suelo decir ‘consciencia’ cuando deseo sobresaltar a mis interlocutores, y ‘conciencia’ cuando deseo no hacerlo”,

• 23 Pedro J. // 19 de May, 2007 a las 9:20 pm

  En toda la discusión –interesante por cierto– se ha obviado a uno de los pensadores más originales que ha dado la ciencia en los últimos años y uno de los libros que uno tendría que tener a mano cada vez que discute este tipo de cosas: La fábrica de realidad de David Deutsch. Delineado así muy rápidamente el argumento de Deutsch viene de una analogía formal entre sistema físico en evolución y computación. Así, un sistema físico en evolución no es más que una computación que se está realizando por un hardware que no es más que el propio sistema físico. Puede discutirse si un subsistema físico puede hacer una simulación infinitamente precisa del sistema físico completo. El argumento de Deutsch es que si el universo es comprensible de alguna manera eso tiene que ser así, y de hecho cualquier sistema físico debería ser capaz de simular a cualquier otro –lo que es una versión fuerte del principio de la conjetura de Church-Turing.
  Incluso en una versión débil que sólo permitiera a un subsistema físico hacer una simulación hasta cierta precisión del sistema físico que queremos simular, lo que está bien claro es que el cerebro no tendría que ser ningún problema, puesto que el límite físico de capacidad de computación del cerebro es del orden de unos 10²³ ips –aunque una estimación realista baja mucho los números a 10¹7 y probablemente a 10¹4– mientras que el límite físico de un sistema de 1 kg de materia en la situación más exótica puede llegar a tasas de 10^51 ips.
  Con esos números a mi me parece relativamente obvio que si uno no plantea hipótesis más allá de que estamos hablando de un sistema físico –sea lo que sea la consciencia– una vez simulas el cerebro tendrás todos los procesos que en éste se generan-
  Por otro lado, las evidencias en neurología de los últimos años indican que la consciencia como entidad separada de los procesos automáticos estímulo-respuesta es difícil de justificar desde el punto de vista experimental, como comentaba en la entrada de mi blog
  Por todo ello coincido básicamente con Lan
  saludos

• 24 Dos entradas interesantes // 21 de May, 2007 a las 12:06 pm

  [...] alegra decir que el estímulo para la segunda entrada fue esta reseña que republiqué hace unas semanas. Hay quien me preguntó por qué estaba recuperando reseñas antiguas [...]

• 25 Lan // 21 de May, 2007 a las 11:16 pm

  @Perez Poch: la descontextualización de mi comentario sobre el ADN es tan burda que casi dudo que merezca más respuesta. Como ya he dicho es muy posible que existan argumentos en contra perfectamente válidos, pero no me parece totalmente evidente que el proceso que transforma nuestro ADN en un ser humano no sea algorítmico y que el resultado final no sea por derecho un ser inteligente.

  Lo he dicho antes, pero lo repetiré: para mí el punto en donde fallan todas las postulaciones contra la IA fuerte es en el salto de “Es evidente que la mente humana supera las limitaciones de una máquina de Turing. Por lo tanto propongo el siguiente método como base de su funcionamiento…”. Comprendo que sea muy sencillo pensar que la primera afirmación es cierta y caer en el primer juego de manos que algún pro-hombre proponga para demostrarla, pero al final todo se reduce a lo mismo: se debe de aceptar que en el caso de los seres humanos, contrariamente a lo que nos dicta la intuición y el “sentido común”, la consciencia es una propiedad emergente de las neuronas cuando éstas se disponen en estructuras jerárquicas de complejidad creciente. No existe ninguna explicación extraordinariamente compleja en el último microtúbulo cuántico, ningún mago detrás de la cortina que piensa por nosotros. Todas los componentes de nuestra consciencia son simples, comprensibles y fácilmente simulables, y al juntarlos de cierta forma la consciencia emerge. Por supuesto el modo en el que esto se hace *no* es sencillo o intuitivo, o ya habría sido descubierto hace mucho.

  Comparo este debate con el debate del creacionismo porque pienso que muchos de los que atacan la IA simplemente se agarran con uñas y dientes, como siempre se ha hecho, al último atisbo de trascendentalidad que hay en nosotros. Aquí, igual que allí, es imposible demostrar la falsedad de sus afirmaciones, pero de igual forma pienso humildemente que ellos se equivocan. Esto es sólo una opinión personal, pero siento que el verdadero espíritu científico consiste en buscar constantemente cómo funciona algo, o en última instancia el porqué. Cuando alguien dedica todos sus esfuerzos a demostrar por qué algo NO es posible o NO es de determinada forma forma, sin que exista causa justificada para asumir lo contrario, suele basarse en la necesidad de defender una idea basada en un prejuicio. Las tesis anti-IA son tan exitosas porque simplemente refuerzan las prejuicios de la gente sin necesidad de proponer alternativas juiciosas, mientras que las teorías sobre el funcionamiento algorítmico de la mente parten, como siempre lo hace la ciencia, de la incredulidad, la inseguridad y el ridículo.

  En fin, lo voy dejando ya, que las discusiones por Internet son como las guerras nucleares. Sólo los idiotas creen que sirvan para algo

• 26 Pérez Poch // 22 de May, 2007 a las 8:47 am

  Todo lo que dice Lan en su manifiesto de retirada está muy bien, pero no tiene nada que ver con los autores de los que estamos hablando.

  La descontextualización que hace de los planteamientos de Penrose es tan burda -y reitera tanto los planteamientos de su victimista escuela: ¿cuál es “el éxito” que hay que explicar?- que merece la pena que alguien intente recontextualizarla.

  Después de todo, yo ni quito ni pongo rey en la cuestión de si Penrose o Gödel han “demostrado” que la conciencia es algoritmica o no; pero sí que lo pongo en el hecho de que el tema de sus escritos es ese, y no “la trandescentalidad del ser humano”. Es curioso que frente a argumentos -no apelaciones a la evidencia- se prefiera imputar a quienes les proponen no sé que intenciones, en vez de discutir los argumentos en sí mismos. Porque Lan se queja de que siempre se dice lo mismo, pero no lo discute; yo también me quejo de no encontrar más argumento que “algún día habrá computadoras que chateen en internet, y se sabrá que teniamos razón”.

  Si de éxito hablamos, habría que hablar del éxito de esas presuntas refutaciones de Penrose apelando a “la navaja de Ockham”, tan reiteradas en Internet (por cierto, Lan, yo no empece esta guerra nuclear, cada quien tiene que asumir sus responsabilidades): deduzco que esos navajeros que acusan a Penrose y su gente de “multiplicar los entes sin necesidad ” ya han conseguido una teoría que una los cabos sueltos de las distintas teorías físicas contemporaneas -y sin apelar a multitud de dimensiones extras- y dar cuenta de por qué las constantes físicas son las que son, y por ello no considerar necesario explorar nuevos caminos. Penrose no sostiene tanto que somos “especiales en algun sentido” -no computacionales-, como que es necesario un replanteamiento de las leyes de la física. O sea, que no sólo tiene una visión muy rara del ser humano sino de todo el Universo: algo bastante perverso, pero esa visión la defiende dentro de la ciencia, no cuestionando su autoridad en nombre de no sé qué transcendencias.

  Si entramos en el terreno de las apelaciones a “la incapacidad de pensar” de los que no piensan como nosotros para zanjar los debates, hemos acabado con la discusión racional; igual que se dice de los críticos de la IA que “son incapaces de imaginar un mecanismo…” se puede decir que los críticos de los críticos son incapaces de imaginar un progreso en física. Algo que por cierto Penrose intenta, pero no afirma haber alcanzado.

  Más que situar a Penrose en la estela de los creacionistas, lo suyo es situarle en la estela de la recuperación de la actitud filosófica presocrática, que proponia Schrödinger -quería recuperar una cita de Schrödinger sobre el tema, pero no encuentro mis notas y no puedo consultar sus ensayos; ¿alguien la tiene?-. No entro en sí Penrose tiene más razón que Deutsch, sino en que ambos -Deutsch por lo que sé- buscan integrar los distintos ámbitos de conocimiento en un ámbito cosmológico. Esa es la actitud, y no la defensa gremial de los que trabajan en IA.

  Las reacciones surgen cuando en este proceso se cuestionan resultados de disciplinas aisladas. Un marco cosmológico no pasa por sumar todas las ciencias, sino por buscar su coherencia aunque eso exija replantearse los fundamentos de disciplinas aisladas. Es de este pie del que cojea Searle -y de ahí su incompresión de Penrose-; para él la física actual “está perfectamente” (de hecho, su visión de la naturaleza en “El recescubrimiento de la mente” es Newtoniana, concediendo que las particulas, cuando están en el jardin de infancia de las pequeñas escalas, hacen travesuras, pero que a escala humana y cósmica se vuelven responsables). Searle es filósofo de formación y por ello la timidez matemática le lleva a integrar sus reflexiones en un marco recibido; pero Penrose no tiene porque sentir esa timidez, y por ello se plantea revisar el marco.

  Todos tenemos timideces por nuestra formación. Así, podemos sostener con mucha alegría que los animales (humanos incluidos) son computacionales o meras funciones de estimulo-respuesta -”como está establecido”-. Claro, que si la respuesta es establecer la indecidibilidad de la teoría de grupos, o el concepto de singularidad, o tener competencia para manejar pronombres anafóricos, ¿cuál es la pregunta?

  Y por cierto, dedicar los esfuerzos a demostrar que algo no es posible no es algo anticientifico, a menos que consideremos la reducción al absurdo algo anticientifico -una postura que se reduce al absurdo a sí misma…-.

• 27 pjorge // 22 de May, 2007 a las 8:54 am

  Qué interesante. No recuerdo una discusión así en esta bitácora. Lo estoy pasando de fábula.

• 28 Eduo // 22 de May, 2007 a las 12:53 pm

  Razón de más para rescatar viejos escritos, queda claro.

  Ayer había escrito una parrafada aquí y en otro post y por errores del proxy nunca se enviaron.
  Viendo lo que hay prefiero no ponerlo y seguir leyendo, que dificilmente podría mejorar lo que está cociéndose.

• 29 Lan // 22 de May, 2007 a las 1:12 pm

  @Pérez Poch: es obvio que yo he empezado la guerra nuclear, y por lo tanto en cierta forma me estaba llamando idiota a mí mismo por empezar este tipo de discusiones que, aunque interesantes, probablemente no llevan a ninguna parte.

  Sobre el espíritu anti-científico, descontextualizas de nuevo, yo digo que es anticientífico centrarse en demostrar un negativo cuando *no* hay ninguna razón de peso para suponer a priori que el negativo debe ser cierto. Los navajeros de la teoría de cuerdas y demás zarandajas tienen excelentes razones para multiplicar los entes, ya que la mecánica cuántica y la relatividad general simplemente son incompatibles, haciendo una teoría unificadora necesaria (sobre el éxito o falta del mismo de la teoría de cuerdas cada uno tendrá su propia opinión. Yo lo calificaría de “notable”). Penrose, sin embargo, no tiene ninguna razón de peso, y el hecho de que sus modelos de hipercomputación no se sostengan (ver Tegmark) sólo hace el tema más sangrante. Sólo pido argumentos concluyentes que demuestren la imposibilidad de que la mente humana sea reducible a una máquina de Turing. La pregunta es: ¿qué hechos mueven a esas personas a considerar necesarios avances revolucionarios en el campo de la física para poder explicar la consciencia humana?

• 30 Juan Diego // 22 de May, 2007 a las 4:40 pm

  ¿Qué puedo añadir que no se haya dicho ya? ¿O que sí se haya dicho? (Perdón por la tontería, esto es sólo para suscribirme.)

• 31 Pérez Poch // 23 de May, 2007 a las 8:21 am

  Supongo que Lan no encuentra ninguna validez en los argumentos de Penrose en “Las sombras de la mente” (ed. Crítica, 1996); estoy de acuerdo en que la crítica de Tegmark es seria, pero yo no diría que es devastadora, pues no se dirige al núcleo del argumento. Hay una página de internet en que Penrose desarrolla más su argumentación y a la que remito, aunque me permito una introducción.

  El caso es que el camino, en Penrose, no va de la conciencia a la física, sino de la física a la conciencia. Hablar de ‘La nueva mente del emperador’ no sería más que un aperitivo para hablar del tema de su último libro -que no he leído-, “El camino a la realidad: una guia completa de las leyes de la física” (Debate, 2006). En realidad, sus razones son las mismas que las de los teóricos de cuerdas -resolver incompatibilidades entre teorías físicas-; por cierto, parece que Witten ha publicado trabajos donde asume algunos conceptos de Penrose, y por recierto, si Penrose necesitase ser afeitado por la navaja de Ockham, los de cuerdas necesitarían la depilación a la cera. En todo caso, por intención y motivación, no cabe contraponer a los de cuerdas y Penrose, y tan motivados -o inmotivados- son unos y otros.

  Vladimir Arnold alegaba que los matemáticos del siglo XX tenían un problema de justificación social; no podían pretender justificarse con sus teorías, pues eran demasiado sofisticadas para captar el interés del público. Él creía que esa era la causa de que muchos matemáticos publicasen libros con extrapolaciones filosóficas y sensacionalistas aparentemente basadas en teorías matemáticas y físicas avanzadas: teoría de catástrofes y sociedad, principio cuántico de complementariedad y sociedad… Aunque esas extrapolaciones fuesen algo arbitrarias, doraban la pildora.

  No creo que los pensamientos de Penrose sobre la conciencia tengan una base sólo aparente, pero sí que son el ingrediente agradable, vendible, de la medicina, en una estrategia parecida a la de Arnold: al menos, es más fácil interesar en la conciencia que en la topología diferencial. La conciencia sería un ejemplo de incomputablidad al alcance de todos los públicos, pero el tema es la incomputabilidad en la naturaleza (lo confiesa en varias partes de “Sombras”). No es tanto que la conciencia sea incomputable, como que la conciencia manifiesta lo incomputable -lo no equivalente a una máquina de Turing- en la naturaleza.

  Para justificar -que no confirmar- esta conjetura, Penrose no apela a la introspección o a la complejidad, sino a las características del pensamiento matemático -”Lo que tengo en mente se basa en ciertos tipos de actividad matemáticamente exacta que puede demostrarse que están más allá de la computación”-. Aquí pone en juego su interpretación de los teoremas de Gödel -que ofrecen una posibilidad lógica a la que la física debería un respaldo ulterior-, y, de paso, empieza la fricción con la IA. Empieza, siempre y cuando aceptemos que la IA no es sólo ingeniería, sino matemática teórica: todos los programas son teoremas -proposiciones matemáticas-, pero está por ver que todas las proposiciones matemáticas sean teoremas -programas- (es decir, que la IA esté en lo cierto).

  El tema de cómo la IA no se puede aplicar al pensamiento matemático es el de la primera sección de sombras, y vuelve en esta discusión de Internet; la sección 3 del artículo de Chalmers y los parágrafos 2, 3 y 4 de la réplica de Penrose abundan en el asunto. En base a estas conclusiones, ni diez ni mil modelos computacionales de parcelas de conducta humana son contraejemplos del carácter no computacional de la naturaleza -igual que todos los proyectiles, misiles, etc, no son confirmaciones de la validez universal de la mecánica de Newton-; del mismo modo, la posible falta de evidencia neurológica no ha de tomarse como una objeción fatal, sino momentánea -igual que el perceptrón y sus fracasos no fueron objeción a ciertas líneas de IA-.

  Puede alegarse que con tanto vaivén entre naturaleza, matemática y conciencia, podemos perder el pájaro en mano de los modelos físicos y programables disponibles, y que la única base seria para la extrapolación es la investigación confinada en ellos. Es cierto que la ciencia, si es ciencia y no pornografía, no puede basarse sólo en especulaciones globales. Pero también es cierto que si queremos extrapolar con rigor -y extrapolamos cuando aceptamos la tesis de la IA fuerte, diciendo “todos somos máquinas”- hay que plantearse las cuestiones de fundamentación que llevan a Gödel.

• 32 Lan // 26 de May, 2007 a las 10:37 am

  ¿En serio ves algún tipo de validez en La Nueva Mente del Emperador? A lo mejor con la edad se me pudre el cerebro, pero si diría que el libro asume como tesis que el problema de la parada demuestra que la mente humana está más allá de al computabilidad. Sin pruebas claro. Pequeño ejercicio (que se comenta, al menos en mi universidad, en los primeros días de teoría de la computación): escriba un programa que se pare al encontrar un número que no sea suma de dos primos (Conjetura de Goldbach). ¿Puede tu supuesto cerebro no-algorítmico decirme *con seguridad* si ese programa se parará o no? ¿Qué te hace pensar que eres intrínsecamente más capaz de dar una respuesta a esa pregunta que cualquier algoritmo? Al menos reconoces de forma velada que todo el tema de la consciencia es una treta de Penrose para vender tochos infumables, con lo que me siento ligeramente vindicado. Te recomiendo a Dennett o a Hofstadter, sus libros son amenos y más honestos
  ¡Me parece bien que nos planteemos las cuestiones fundamentales que implica el Teorema de Gödel a la cuestión de la consciencia humana! Expón claramente una tesis refutable que se derive de los dos teoremas y que aplicado a la cuestión de la mente nos lleve a asumir la imposibilidad de su computabilidad. Con un poco de suerte harás a los comentarios de pjorge.com universalmente famosos.

• 33 pjorge // 26 de May, 2007 a las 12:02 pm

  Yo disfruto mucho leyendo a Penrose, Dennett y a Hofstadter, más que nada porque me gusta que me digan otras cosas. Sin embargo, el último libro de Hofstadter me está pareciendo un poco/bastante tramposo.

• 34 Lan // 26 de May, 2007 a las 12:41 pm

  El último de Hofstadter me acaba de llegar de Amazon y todavía no ha caído, pero sí que es cierto que las reseñas no son espectaculares. Sin embargo GEB me sigue pareciendo la introducción más brillante y amena a Gödel, la IA y otros 50 temas igualmente fascinantes, así que seguimos teniendo a Hofstadter en alta estima

  ¿Hay premio por llegar a 50 comentarios?

• 35 pjorge // 26 de May, 2007 a las 12:48 pm

  Digamos en que nos diferenciamos en que yo tengo a GEB en alta estima

• 36 Perez Poch // 26 de May, 2007 a las 2:16 pm

  Por partes:

  1. No he dicho en ningun caso que Penrose utilice el tema de la conciencia para vender tochos infumables, he dicho que lo utiliza como introducción a su enfoque en física. Que su enfoque en física dé lugar a tochos infumables es una cuestión posterior.

  2, Que la conciencia humana sea no computable no significa que se dedique a hacer numeros de adivinación. Puedo admitir una crítica a Penrose: de los resultados de Gödel cabe inferir un dilema, y Penrose infiere como conclusión una de sus partes. El dilema es: o hay cuestiones matemáticas absolutamente indecidibles para la mente humana, o la capacidad de la mente humana transciende la capacidad de cualquier sistema formal DADO -si la IA fuese cierta, habría un sistema formal dado que límita la mente humana-. Lo segundo no se revela mediante resolución de problemas por intuición, sino en las opciones que se toman en la construcción de jerarquías de sistemas formales. La opción por un bloque u otro del dilema depende de la propia opción por enfoques del trabajo matemático -digamos constructivismo o platonismo-; ahora bien, un enfoque que se quedase en la primera opción no podría resolver determinadas cuestiones topológicas requeridas para la unificación de las leyes de la física -dice (decia en 1996) Penrose, que no yo-.

  3. En todo caso, he remitido a un enlace de internet donde Penrose desarrolla su argumentación mas por extenso en línea de 2. Siempre con riesgo de acelerar la putrefacción del cerebro de Lan. No sé porque te lo saltas y me pides “tesis refutables” que dices no encontrar en una obra anterior (La nueva mente) menos elaborada, por cierto trayendo a colación una epistemología popperiana un tanto trasnochada.

  4. En cuanto a Hofstadter -y esto es una respuesta de memoria-, yo diría que reconoce la validez de las conclusiones de Penrose para un determinado modelo de IA, para a continuación declarar que dicho modelo ha quedado obsoleto por investigaciones posteriores. Lo cual no me remite a una “refutación” de Penrose, sino a irse por ramas distintas a las que se va Penrose: irse que no es por el camino de una tesis refutable, sino de construcción de modelos en el marco del propio nucleo teórico. Nucleo que aún así, si no me equivoco, sigue siendo rehen del marco de la no unificada física actual.

• 37 Perez Poch // 26 de May, 2007 a las 2:36 pm

  Me doy cuenta de que he usado la terrorifica expresión “platonismo”. Antes de recibir la tópica reprimenda, dire que uso “platonismo” como término coloquial para referirse al enfoque que podría llamarse más bien “objetivismo”, siguiendo a Gödel y al albacea filosófico de Gödel, Hao Wang. Este término quizás tiene la ventaja de que no sugiere un compromiso con toda la filosofía de Platón, sino sólo con una determinada tesis de filosofía de las matemáticas, aunque caben muchas interpretaciones del mismo.

  Otra forma de marcar las opciones la debemos a Hao, en sus “Reflexiones sobre Gödel”. Contrapone a Gödel y Turing en tanto que Gödel ponía énfasis en las proposiciones, mientras que Turing ponía énfasis en los problemas. Por cierto, Hao no es precisamente amigo de las extrapolaciones de los teoremas de Gödel a la filosofía de la mente.

  Sobre objetivismo: http://www.saint-andre.com/thoughts/wang-godel.html

• 38 Lan // 26 de May, 2007 a las 3:12 pm

  @Perez Poch:

  1. Qué poco sentido del humor

  2,3: Excelente, en este tipo de postura podríamos estar de acuerdo. Tendré que leerme el texto de 1996, aunque la conclusión de Penrose me parece osadísima de buenas a primeras (si bien cierto es que recaería totalmente en un campo en el que él sí es un experto indiscutible). Popper estará trasnochadísimo, pero a algunos no les haría mal refrescarlo…

  4: No me considero un experto en Hofstadter, pero no recuerdo semejante cosa. ¿Qué libro o texto citas?

  Suena bien Hao, y coincido en su reparo a la alegría con la que algunos aplican Gödel a ciertos temas. A la pila.

• 39 Pérez Poch // 26 de May, 2007 a las 4:55 pm

  Al texto de Hofstadter me pondré entre hoy y mañana: por cierto, debería haber escrito “Gödel”, no “Penrose”.

  Como no voy a poder estar muy pendiente de este hilo a partir de la semana que viene, querría recordar el origen de mis intervenciones: explicar por qué Penrose tiene algo que ver con el tema de la conciencia, cosa que Searle dice no entender. Searle ha sostenido en muchos sitios que hay cosas que un ciudadano del siglo XX “no puede poner en duda” a la hora de hacer afirmaciones sobre el mundo, y una de ellas es que se compone de partículas. Evidentemente, el tema de la física es algo mucho más profundo que clasificar partículas, tiene que ver con la estructura matemática de la realidad. Es posible que el neurologo no tenga que asomarse a estas honduras, pero asomarse a ellas exige poner en juego la reflexión sobre nuestra competencia matemática, y ello a las reflexiones sobre los teoremas de Gödel; el caso es que esta reflexión tiene consecuencias para lo que pensemos sobre IA y por tanto sobre la mente y la conciencia.

  Después de haberme dedicado a pontificar sobre Penrose no me voy a poner a pontificar aquí sobre los méritos y deméritos del argumento de la habitación china, pero advierto de paso que no forman parte del mismo saco que los argumentos de Gödel/Penrose.

  Por el camino, nos hemos visto en una discusión sobre IA en la que me temo que el pobre Searle se ha quedado a verlas venir.

  Mi observación sobre Popper no se refiere a sus comentarios edificantes sobre lo bueno que es ser racional -que doy por aceptables- sino a aspectos técnicos de su semántica de las teorías científicas y el papel que concede a los experimentos cruciales en la filosofía de la ciencia. Por cierto, ¿qué pensaba Popper de la inteligencia artificial?

• 40 Perez Poch // 26 de May, 2007 a las 10:03 pm

  Douglas Hofstadter, introducción a la edición revisada de Gödel’s proof/ Ernst Nagel y James N. Newman. – 2001, New York University Press

  Ever since Go¨del, it has been realized how subtle and deep the art of mathematical thinking is, and the once-bright hope of mechanizing human mathematical thought starts to seem shaky, if not utterly quixotic. What, then, after Go¨del, is mathematical thinking believed to be? What, after Go¨del, is mathematical truth? Indeed, what is truth at all? These are the central issues that still lie unresolved, seventy years after Go¨del’s epoch-
  making paper appeared.

  In their “Concluding Reflections,” Nagel and Newman argue that from Go¨del’s discoveries it follows that computers—“calculating machines,” as they call them—are in principle incapable of reasoning as flexibly as we humans reason, a result that supposedly
  ensues from the fact that computers follow “a fixed set of directives” (i.e., a program). To Nagel and Newman, this notion corresponds to a fixed set of axioms and rules of inference—and the computer’s behavior, as it executes its program, amounts to that of a
  machine systematically churning out proofs of theorems in a formal system.
  This mapping of computer onto formal system takes the term “calculating machine” very literally—that is, a machine built to deal with numbers and arithmetical facts alone. The idea that such machines by their very nature should churn out sets of true statements about mathematics is seductive and certainly has a grain of truth to it, but it is far from the full vision of the power and versatility of computers.

  … When Nagel and Newman were composing Go¨del’s Proof, the goal of getting computers to think like people—in other words, artificial intelligence—was very new and its potential was unclear. The main thrust in those early days used computers as mechanical instantiations of axiomatic systems, and as such, they did nothing but churn out proofs of theorems. Now admittedly, if this approach represented the full scope of how computers might ever in principle be used to model cognition, then, indeed, Nagel and Newman would be wholly justified in arguing, based on Go¨del’s discoveries, that computers, no matter how rapid their calculations or how capacious their memories, are necessarily
  less flexible and insightful than the human mind.

  … The point of these two examples [redes neurales y el programa AM de Douglas Lenat] (and I could give many more) is that human thinking in all its flexible and fallible glory can in principle be modeled by a “fixed set of directives,” provided one is liberated from the preconception that computers, built on arithmetical operations, can do nothing but slavishly produce truth, the whole truth, and nothing but the truth. That idea, admittedly, lies at the core of formal axiomatic reasoning systems, but today no one takes such systems seriously as a model of what the human mind does, even when it is at its most logical. We now understand that the human mind is fundamentally not a logic engine but an analogy engine, a learning engine, a guessing engine, an esthetics-driven engine, a self-correcting engine. And having profoundly understood this lesson, we are perfectly able to make “fixed sets of directives” that have some of these qualities.

  To be sure, we have not yet come close to producing a computer program that has anything remotely resembling the flexibility of the human mind, and in this sense Ernest Nagel and James Newman were exactly on the mark in declaring, in their poetic fashion, that Go¨del’s theorem “is an occasion, not for dejection, but for a renewed appreciation of the powers of creative reason.” It could not be said better.

• 41 Pérez Poch // 31 de May, 2007 a las 7:09 pm

  Lan dice que pone a Hao Wang en la pila.

  Me he puesto a mirar el paso de la e-mula y veo que en sus alforjas los interesados pueden encontrar dos libros de Wang sobre el tema que nos ocupa, A logical journey from Gödel to philosophy y Beyond Analitic Philosophy. Ustedes verán. Alianza Editorial publicó en castellano en los primeros noventa las “Reflexiones sobre Gödel”, no sé si seguirá en catálogo.

• 42 Pérez Poch // 19 de Jun, 2007 a las 6:24 pm

  El bueno de John Baez rescata para internet un artículo clásico de Roger Penrose: (.pdf)On the nature of quantum geometry . En este artículo Penrose hecha los cimientos de eso tan mono que nos contó Lee Smolin en un Investigación y ciencia de 2004, sobre los átomos de espacio y de tiempo… ¿Está cerrada la cuestión de qué tipo de entes físicos somos?

• 43 tu culo // 2 de May, 2008 a las 10:42 pm

  ta muy culero

Deja un comentario