Hubert Dreyfus fue un crítico de la investigación sobre inteligencia artificial . En una serie de artículos y libros, entre ellos Alchemy and AI (1965), What Computers Can't Do (1972; 1979; 1992) y Mind over Machine (1986), presentó una evaluación pesimista del progreso de la IA y una crítica de los fundamentos filosóficos del campo. Las objeciones de Dreyfus se discuten en la mayoría de las introducciones a la filosofía de la inteligencia artificial , incluido Russell & Norvig (2021), un libro de texto estándar sobre IA, y en Fearn (2007), un estudio de la filosofía contemporánea. [1]
Dreyfus sostuvo que la inteligencia y la pericia humanas dependen principalmente de procesos inconscientes más que de la manipulación simbólica consciente , y que estas habilidades inconscientes nunca pueden ser capturadas completamente en reglas formales. Su crítica se basó en las ideas de filósofos continentales modernos como Merleau-Ponty y Heidegger , y estaba dirigida a la primera ola de investigación de IA que utilizó símbolos formales de alto nivel para representar la realidad e intentó reducir la inteligencia a la manipulación de símbolos.
Cuando las ideas de Dreyfus se presentaron por primera vez a mediados de la década de 1960, se las recibió con burla y abierta hostilidad. [2] [3] Sin embargo, en la década de 1980, muchos de sus puntos de vista fueron redescubiertos por investigadores que trabajaban en robótica y en el nuevo campo del conexionismo , enfoques que ahora se denominan " subsimbólicos " porque evitan el énfasis de las primeras investigaciones sobre IA en los símbolos de alto nivel. En el siglo XXI, los enfoques basados en estadísticas para el aprendizaje automático simulan la forma en que el cerebro utiliza el proceso inconsciente para percibir, notar anomalías y emitir juicios rápidos. Estas técnicas son muy exitosas y actualmente se utilizan ampliamente tanto en la industria como en el mundo académico. El historiador e investigador de IA Daniel Crevier escribe: "El tiempo ha demostrado la precisión y la perspicacia de algunos de los comentarios de Dreyfus". [4] Dreyfus dijo en 2007: "Supongo que gané y se acabó; se dieron por vencidos". [5]
En Alquimia e inteligencia artificial (1965) y Lo que los ordenadores no pueden hacer (1972), Dreyfus resumió la historia de la inteligencia artificial y ridiculizó el optimismo desenfrenado que impregnaba el campo. Por ejemplo, Herbert A. Simon , tras el éxito de su programa General Problem Solver (1957), predijo que para 1967: [6]
La prensa difundió estas predicciones en informes entusiastas sobre la inminente llegada de la inteligencia artificial.
Dreyfus consideró que este optimismo era injustificado y se basaba en suposiciones falsas sobre la naturaleza de la inteligencia humana. Pamela McCorduck explica la postura de Dreyfus:
Un gran malentendido explica la confusión pública acerca de las máquinas pensantes, un malentendido perpetrado por las afirmaciones poco realistas que han estado haciendo los investigadores en IA, afirmaciones de que las máquinas pensantes ya están aquí o, en todo caso, a la vuelta de la esquina. [7]
Estas predicciones se basaban en el éxito de un modelo de "procesamiento de información" de la mente, articulado por Newell y Simon en su hipótesis de sistemas de símbolos físicos , y posteriormente ampliado en una posición filosófica conocida como computacionalismo por filósofos como Jerry Fodor y Hilary Putnam . [8] Creyendo que habían simulado con éxito el proceso esencial del pensamiento humano con programas simples, parecía que faltaba poco para producir máquinas completamente inteligentes. Sin embargo, Dreyfus argumentó que la filosofía, especialmente la filosofía del siglo XX , había descubierto serios problemas con este punto de vista del procesamiento de la información. La mente, según la filosofía moderna, no se parece en nada a una computadora digital. [7]
En Alchemy and AI and What Computers Can't Do , Dreyfus identificó cuatro supuestos filosóficos que respaldaban la creencia de los primeros investigadores de IA de que la inteligencia humana dependía de la manipulación de símbolos. [9] "En cada caso", escribe Dreyfus, "los trabajadores de [IA] toman el supuesto como un axioma que garantiza resultados, cuando en realidad es una hipótesis entre otras, que debe probarse con el éxito de dicho trabajo". [10]
En los primeros días de la investigación en neurología , los científicos se dieron cuenta de que las neuronas se activaban en pulsos de todo o nada. Varios investigadores, como Walter Pitts y Warren McCulloch , argumentaron que las neuronas funcionaban de manera similar a la forma en que operan las puertas lógicas booleanas , y por lo tanto podían ser imitadas por circuitos electrónicos a nivel de la neurona. [11] Cuando las computadoras digitales se generalizaron a principios de los años 50, este argumento se amplió para sugerir que el cerebro era un vasto sistema físico de símbolos , que manipulaba los símbolos binarios de cero y uno. Dreyfus pudo refutar la suposición biológica citando investigaciones en neurología que sugerían que la acción y el momento de activación de las neuronas tenían componentes analógicos. [12] Pero Daniel Crevier observa que "pocos todavía sostenían esa creencia a principios de la década de 1970, y nadie discutió con Dreyfus" sobre la suposición biológica. [13]
Dreyfus refutó esta suposición al demostrar que gran parte de lo que "sabemos" sobre el mundo consiste en actitudes o tendencias complejas que nos hacen inclinarnos hacia una interpretación en lugar de otra. Sostuvo que, incluso cuando utilizamos símbolos explícitos, los utilizamos sobre un trasfondo inconsciente de conocimiento de sentido común y que sin este trasfondo nuestros símbolos dejan de significar nada. Este trasfondo, en opinión de Dreyfus, no se implementaba en los cerebros individuales como símbolos individuales explícitos con significados individuales explícitos.
Esto se refiere a la cuestión filosófica de la epistemología , o el estudio del conocimiento . Incluso si estamos de acuerdo en que el supuesto psicológico es falso, los investigadores de la IA aún podrían argumentar (como lo hizo el fundador de la IA, John McCarthy ) que es posible que una máquina de procesamiento de símbolos represente todo el conocimiento, independientemente de si los seres humanos representan el conocimiento de la misma manera. Dreyfus argumentó que no hay justificación para esta suposición, ya que gran parte del conocimiento humano no es simbólico.
Dreyfus también identificó un supuesto más sutil sobre el mundo. Los investigadores de IA (y los futuristas y escritores de ciencia ficción) a menudo suponen que no hay límite para el conocimiento científico formal, porque suponen que cualquier fenómeno en el universo puede ser descrito por símbolos o teorías científicas. Esto supone que todo lo que existe puede ser entendido como objetos, propiedades de objetos, clases de objetos, relaciones de objetos, etc.: precisamente aquellas cosas que pueden ser descritas por la lógica, el lenguaje y las matemáticas. El estudio del ser o la existencia se llama ontología , y por eso Dreyfus lo llama el supuesto ontológico. Si esto es falso, entonces plantea dudas sobre lo que podemos saber en última instancia y lo que las máquinas inteligentes finalmente podrán ayudarnos a hacer.
En Mind Over Machine (1986), escrito durante el apogeo de los sistemas expertos , Dreyfus analizó la diferencia entre la experiencia humana y los programas que pretendían capturarla. Esto amplió las ideas de What Computers Can't Do , donde había presentado un argumento similar criticando la escuela de " simulación cognitiva " de investigación de IA practicada por Allen Newell y Herbert A. Simon en la década de 1960.
Dreyfus sostuvo que la resolución de problemas y la pericia humana dependen de nuestro sentido de fondo del contexto, de lo que es importante e interesante dada la situación, en lugar del proceso de búsqueda a través de combinaciones de posibilidades para encontrar lo que necesitamos. Dreyfus lo describió en 1986 como la diferencia entre "saber-que" y "saber-cómo", basándose en la distinción de Heidegger entre lo presente y lo listo para usar . [14]
El saber-eso es nuestra capacidad consciente de resolver problemas paso a paso. Utilizamos estas habilidades cuando nos enfrentamos a un problema difícil que requiere que nos detengamos, demos un paso atrás y examinemos las ideas una a una. En momentos como éste, las ideas se vuelven muy precisas y simples: se convierten en símbolos libres de contexto, que manipulamos utilizando la lógica y el lenguaje. Éstas son las habilidades que Newell y Simon habían demostrado con experimentos psicológicos y programas informáticos. Dreyfus estuvo de acuerdo en que sus programas imitaban adecuadamente las habilidades que él llama "saber-eso".
Por otra parte, el saber hacer es la manera en que nos enfrentamos a las cosas normalmente. Realizamos acciones sin utilizar ningún razonamiento simbólico consciente, como cuando reconocemos una cara, nos dirigimos al trabajo o encontramos lo que hay que decir. Parece que simplemente nos apresuramos a dar la respuesta adecuada, sin considerar ninguna alternativa. Ésta es la esencia de la pericia, según afirmaba Dreyfus: cuando nuestras intuiciones han sido entrenadas hasta el punto de que olvidamos las reglas y simplemente "evaluamos la situación" y reaccionamos.
El sentido humano de la situación, según Dreyfus, se basa en nuestros objetivos, nuestros cuerpos y nuestra cultura: todas nuestras intuiciones, actitudes y conocimientos inconscientes sobre el mundo. Este “contexto” o “trasfondo” (relacionado con el Dasein de Heidegger ) es una forma de conocimiento que no se almacena en nuestro cerebro simbólicamente, sino intuitivamente de alguna manera. Afecta lo que notamos y lo que no notamos, lo que esperamos y las posibilidades que no consideramos: discriminamos entre lo que es esencial y lo que no es esencial. Las cosas que son no esenciales se relegan a nuestra “conciencia marginal” (tomando prestada una frase de William James ): los millones de cosas de las que somos conscientes, pero en las que realmente no estamos pensando en este momento.
Dreyfus no cree que los programas de inteligencia artificial, tal como se implementaron en los años 70 y 80, pudieran capturar este “fondo” o resolver problemas con la rapidez que permite. Sostuvo que nuestro conocimiento inconsciente nunca podría ser capturado simbólicamente. Si la inteligencia artificial no podía encontrar una manera de abordar estos problemas, entonces estaba condenada al fracaso, a un ejercicio de “trepar árboles con los ojos puestos en la luna”. [15]
Dreyfus comenzó a formular su crítica a principios de los años 1960, cuando era profesor en el MIT , entonces un semillero de investigación en inteligencia artificial. Su primera publicación sobre el tema es una objeción de media página a una charla dada por Herbert A. Simon en la primavera de 1961. [16] A Dreyfus le molestaba especialmente, como filósofo, que los investigadores de IA parecieran creer que estaban a punto de resolver muchos problemas filosóficos de larga data en unos pocos años, utilizando computadoras.
En 1965, Dreyfus fue contratado (con la ayuda de su hermano Stuart Dreyfus ) por Paul Armer para pasar el verano en las instalaciones de Santa Mónica de la Corporación RAND , donde escribiría "Alquimia e IA", la primera salva de su ataque. Armer había pensado que estaba contratando a un crítico imparcial y se sorprendió cuando Dreyfus publicó un artículo mordaz destinado a demoler los cimientos de la disciplina. (Armer declaró que no sabía de la publicación anterior de Dreyfus). Armer retrasó su publicación, pero finalmente se dio cuenta de que "solo porque llegara a una conclusión que no le gustaba no era razón para no publicarlo". [17] Finalmente se publicó como RAND Memo y pronto se convirtió en un éxito de ventas. [18]
El artículo ridiculizaba de plano la investigación en IA, comparándola con la alquimia : un intento equivocado de transformar metales en oro basándose en una base teórica que no era más que mitología y ilusiones. [19] Ridiculizaba las grandiosas predicciones de los principales investigadores en IA, prediciendo que había límites más allá de los cuales la IA no progresaría e insinuando que esos límites se alcanzarían pronto. [20]
Según Pamela McCorduck, el artículo “causó un gran revuelo”. [21] La respuesta de la comunidad de IA fue despectiva y personal. Seymour Papert descartó un tercio del artículo como “chismoso” y afirmó que todas las citas habían sido sacadas deliberadamente de contexto. [22] Herbert A. Simon acusó a Dreyfus de jugar a la “política” para poder asociar el prestigioso nombre RAND a sus ideas. Simon dijo: “Lo que me molesta de esto es el nombre RAND asociado a esa basura”. [23]
Dreyfus, que enseñaba en el MIT , recuerda que sus colegas que trabajaban en IA "no se atrevían a ser vistos almorzando conmigo". [24] Joseph Weizenbaum , el autor de ELIZA , sentía que el trato que sus colegas daban a Dreyfus era poco profesional e infantil. Aunque era un crítico abierto de las posiciones de Dreyfus, recuerda que "me convertí en el único miembro de la comunidad de IA al que se le veía almorzando con Dreyfus. Y deliberadamente dejé en claro que esa no era la manera de tratar a un ser humano". [25]
El artículo fue objeto de un breve artículo en la revista The New Yorker del 11 de junio de 1966. El artículo mencionaba la afirmación de Dreyfus de que, si bien los ordenadores pueden jugar a las damas, ningún ordenador podría jugar una partida decente de ajedrez. Informaba con humor irónico (como lo había hecho Dreyfus) sobre la victoria de un niño de diez años sobre el programa de ajedrez líder, con "incluso más presunción que la habitual". [20]
Con la esperanza de restaurar la reputación de AI, Seymour Papert organizó una partida de ajedrez entre Dreyfus y el programa Mac Hack de Richard Greenblatt . Dreyfus perdió, para gran satisfacción de Papert. [26] Un boletín de la Association for Computing Machinery [27] utilizó el titular:
Dreyfus se quejó por escrito de que no había dicho que una computadora nunca jugaría ajedrez, a lo que Herbert A. Simon respondió: "Debes reconocer que algunos de los que son mordidos por tu prosa de dientes afilados probablemente, en su debilidad humana, devuelvan el mordisco... ¿Me atrevo a sugerirte que bien podrías comenzar a enfriarte, siendo la recuperación de tu sentido del humor un buen primer paso?" [29]
A principios de la década de 1990, varias de las opiniones radicales de Dreyfus se habían convertido en algo común.
Predicciones fallidas . Como había previsto Dreyfus, las grandiosas predicciones de los primeros investigadores de la IA no se hicieron realidad. Las máquinas totalmente inteligentes (hoy conocidas como " IA fuerte ") no aparecieron a mediados de los años 1970 como se predijo. HAL 9000 (cuyas capacidades de lenguaje natural, percepción y resolución de problemas se basaban en los consejos y opiniones de Marvin Minsky ) no apareció en el año 2001. "Los investigadores de la IA", escribe Nicolas Fearn, "claramente tienen algunas explicaciones que dar". [30] Hoy los investigadores son mucho más reacios a hacer el tipo de predicciones que se hicieron en los primeros tiempos. (Aunque algunos futuristas, como Ray Kurzweil , todavía son dados al mismo tipo de optimismo.)
La suposición biológica , aunque común en los años cuarenta y principios de los cincuenta, ya no era asumida por la mayoría de los investigadores de IA en el momento en que Dreyfus publicó What Computers Can't Do. [ 13] Aunque muchos todavía sostienen que es esencial realizar ingeniería inversa del cerebro simulando la acción de las neuronas (como Ray Kurzweil [31] o Jeff Hawkins [32] ), no asumen que las neuronas sean esencialmente digitales, sino que la acción de las neuronas analógicas puede ser simulada por máquinas digitales con un nivel razonable de precisión. [31] ( Alan Turing había hecho esta misma observación ya en 1950). [33]
El supuesto psicológico y las habilidades inconscientes . Muchos investigadores de IA han llegado a estar de acuerdo en que el razonamiento humano no consiste principalmente en la manipulación de símbolos de alto nivel. De hecho, desde que Dreyfus publicó por primera vez sus críticas en los años 60, la investigación de IA en general se ha alejado de la manipulación de símbolos de alto nivel , hacia nuevos modelos que pretenden capturar más de nuestro razonamiento inconsciente . Daniel Crevier escribe que en 1993, a diferencia de 1965, los investigadores de IA "ya no hacían el supuesto psicológico", [13] y habían seguido adelante sin él.
En la década de 1980, estos nuevos enfoques " subsimbólicos " incluían:
En los años 90 y las primeras décadas del siglo XXI, los enfoques estadísticos del aprendizaje automático utilizaban técnicas relacionadas con la economía y la estadística para permitir que las máquinas "adivinaran", es decir, tomaran decisiones y predicciones probabilísticas inexactas basadas en la experiencia y el aprendizaje. Estos programas simulan la forma en que nuestros instintos inconscientes son capaces de percibir, notar anomalías y emitir juicios rápidos, de forma similar a lo que Dreyfus llamaba "evaluar la situación y reaccionar", pero en este caso la "situación" consiste en grandes cantidades de datos numéricos. Estas técnicas tienen mucho éxito y actualmente se utilizan ampliamente tanto en la industria como en el ámbito académico.
Esta investigación se ha llevado a cabo sin ninguna conexión directa con el trabajo de Dreyfus. [36]
Saber cómo y saber qué . La investigación en psicología y economía ha podido demostrar que la especulación de Dreyfus (y Heidegger) sobre la naturaleza de la resolución de problemas humanos era esencialmente correcta. Daniel Kahnemann y Amos Tversky recopilaron una gran cantidad de evidencia sólida de que los seres humanos utilizan dos métodos muy diferentes para resolver problemas, a los que llamaron "sistema 1" y "sistema 2". El sistema uno, también conocido como inconsciente adaptativo , es rápido, intuitivo e inconsciente. El sistema 2 es lento, lógico y deliberado. Su investigación fue recopilada en el libro Pensar rápido , pensar despacio [37] e inspiró el popular libro de Malcolm Gladwell Blink [38] . Al igual que con la IA, esta investigación fue completamente independiente tanto de Dreyfus como de Heidegger. [36]
Aunque claramente la investigación en IA ha llegado a estar de acuerdo con Dreyfus, McCorduck afirmó que "mi impresión es que este progreso se ha producido de forma fragmentada y en respuesta a problemas difíciles dados, y no debe nada a Dreyfus". [36]
La comunidad de IA, con algunas excepciones, decidió no responder directamente a Dreyfus. "Es demasiado tonto para tomarlo en serio", le dijo un investigador a Pamela McCorduck. [29] Marvin Minsky dijo de Dreyfus (y de las otras críticas provenientes de la filosofía ) que "ellos no entienden y deberían ser ignorados". [39] Cuando Dreyfus amplió Alchemy and AI a la extensión de un libro y lo publicó como What Computers Can't Do en 1972, nadie de la comunidad de IA decidió responder (con la excepción de algunas reseñas críticas). McCorduck pregunta: "Si Dreyfus está tan equivocado, ¿por qué la gente de la inteligencia artificial no se ha esforzado más por contradecirlo?" [29]
Parte del problema fue el tipo de filosofía que Dreyfus utilizó en su crítica. Dreyfus era un experto en filósofos europeos modernos (como Heidegger y Merleau-Ponty ). [40] Los investigadores de IA de la década de 1960, por el contrario, basaron su comprensión de la mente humana en principios de ingeniería y técnicas eficientes de resolución de problemas relacionados con la ciencia de la gestión . En un nivel fundamental, hablaban un idioma diferente. Edward Feigenbaum se quejaba: "¿Qué nos ofrece? ¡Fenomenología ! Esa bola de pelusa. ¡Ese algodón de azúcar!". [41] En 1965, simplemente había una brecha demasiado grande entre la filosofía europea y la inteligencia artificial , una brecha que desde entonces ha sido llenada por la ciencia cognitiva , el conexionismo y la investigación robótica . Pasarían muchos años antes de que los investigadores de inteligencia artificial pudieran abordar las cuestiones que eran importantes para la filosofía continental, como la situación , la encarnación , la percepción y la gestalt .
Otro problema fue que afirmó (o pareció afirmar) que la IA nunca sería capaz de captar la capacidad humana de comprender el contexto, la situación o el propósito en forma de reglas. Pero (como Peter Norvig y Stuart Russell explicarían más tarde), un argumento de esta forma no se puede ganar: el hecho de que no se puedan imaginar reglas formales que rijan la inteligencia y la pericia humanas no significa que no existan tales reglas. Citan la respuesta de Alan Turing a todos los argumentos similares a los de Dreyfus:
"No podemos convencernos tan fácilmente de la ausencia de leyes completas de la conducta... La única manera que conocemos para encontrar tales leyes es la observación científica, y ciertamente no conocemos ninguna circunstancia bajo la cual podamos decir: 'Hemos buscado lo suficiente. No existen tales leyes'". [42]
Dreyfus no previó que los investigadores de IA se darían cuenta de su error y comenzarían a trabajar en busca de nuevas soluciones, alejándose de los métodos simbólicos que Dreyfus criticaba. En 1965, no imaginaba que un día se crearían programas de ese tipo, por lo que afirmó que la IA era imposible. En 1965, los investigadores de IA no imaginaban que esos programas fueran necesarios, por lo que afirmaron que la IA estaba casi completa. Ambos estaban equivocados.
Un problema más grave fue la impresión de que la crítica de Dreyfus era incorregiblemente hostil. McCorduck escribió: "Su desdén ha sido tan provocador que ha distanciado a cualquiera a quien podría haber iluminado. Y eso es una lástima". [36] Daniel Crevier afirmó que "el tiempo ha demostrado la exactitud y la perspicacia de algunos de los comentarios de Dreyfus. Si los hubiera formulado de manera menos agresiva, las acciones constructivas que sugerían podrían haberse tomado mucho antes". [4]
.