Hubert Dreyfus fue un crítico de la investigación sobre inteligencia artificial . En una serie de artículos y libros, entre ellos Alchemy and AI (1965), What Computers Can't Do (1972; 1979; 1992) y Mind over Machine (1986), presentó una evaluación pesimista del progreso de la IA y una crítica de la fundamentos filosóficos del campo. Las objeciones de Dreyfus se analizan en la mayoría de las introducciones a la filosofía de la inteligencia artificial , incluido Russell & Norvig (2021), un libro de texto estándar sobre IA, y en Fearn (2007), un estudio de la filosofía contemporánea. [1]
Dreyfus argumentó que la inteligencia y la experiencia humanas dependen principalmente de procesos inconscientes más que de una manipulación simbólica consciente , y que estas habilidades inconscientes nunca pueden capturarse completamente en reglas formales. Su crítica se basó en las ideas de filósofos continentales modernos como Merleau-Ponty y Heidegger , y estaba dirigida a la primera ola de investigación de IA que utilizó símbolos formales de alto nivel para representar la realidad y trató de reducir la inteligencia a la manipulación de símbolos.
Cuando las ideas de Dreyfus se introdujeron por primera vez a mediados de la década de 1960, fueron recibidas con burla y abierta hostilidad. [2] [3] En la década de 1980, sin embargo, muchas de sus perspectivas fueron redescubiertas por investigadores que trabajaban en robótica y el nuevo campo del conexionismo , enfoques ahora llamados " subsimbólicos " porque evitan el énfasis de las primeras investigaciones de IA en los símbolos de alto nivel. En el siglo XXI, los enfoques del aprendizaje automático basados en estadísticas simulan la forma en que el cerebro utiliza procesos inconscientes para percibir, notar anomalías y emitir juicios rápidos. Estas técnicas tienen mucho éxito y actualmente se utilizan ampliamente tanto en la industria como en el mundo académico. El historiador e investigador de IA Daniel Crevier escribe: "el tiempo ha demostrado la exactitud y perspicacia de algunos de los comentarios de Dreyfus". [4] Dreyfus dijo en 2007: "Creo que gané y se acabó: se han rendido". [5]
En Alchemy and AI (1965) y What Computers Can't Do (1972), Dreyfus resumió la historia de la inteligencia artificial y ridiculizó el optimismo desenfrenado que impregnaba este campo. Por ejemplo, Herbert A. Simon , tras el éxito de su programa General Problem Solver (1957), predijo que para 1967: [6]
La prensa informó estas predicciones en informes entusiastas sobre la inminente llegada de la inteligencia artificial.
Dreyfus consideró que este optimismo era injustificado y se basaba en suposiciones falsas sobre la naturaleza de la inteligencia humana. Pamela McCorduck explica la posición de Dreyfus:
Un gran malentendido explica la confusión pública sobre las máquinas pensantes, un malentendido perpetrado por las afirmaciones poco realistas que han estado haciendo los investigadores en IA, afirmaciones de que las máquinas pensantes ya están aquí, o en todo caso, a la vuelta de la esquina. [7]
Estas predicciones se basaron en el éxito de un modelo de la mente de "procesamiento de información", articulado por Newell y Simon en su hipótesis de sistemas de símbolos físicos , y luego expandido a una posición filosófica conocida como computacionalismo por filósofos como Jerry Fodor y Hilary Putnam . [8] Creyendo que habían simulado con éxito el proceso esencial del pensamiento humano con programas simples, parecía un paso corto para producir máquinas totalmente inteligentes. Sin embargo, Dreyfus argumentó que la filosofía, especialmente la del siglo XX , había descubierto serios problemas con este punto de vista del procesamiento de la información. La mente, según la filosofía moderna, no se parece en nada a una computadora digital. [7]
En Alchemy and AI and What Computers Can't Do , Dreyfus identificó cuatro suposiciones filosóficas que respaldaban la fe de los primeros investigadores de la IA en que la inteligencia humana dependía de la manipulación de símbolos. [9] "En cada caso", escribe Dreyfus, "los trabajadores de [IA] toman el supuesto como un axioma que garantiza resultados, mientras que, de hecho, es una hipótesis entre otras, que debe ser probada por el éxito de tales trabajar." [10]
En los primeros días de la investigación en neurología , los científicos se dieron cuenta de que las neuronas se activan en pulsos de todo o nada. Varios investigadores, como Walter Pitts y Warren McCulloch , argumentaron que las neuronas funcionaban de manera similar a como funcionan las puertas lógicas booleanas y, por lo tanto, podrían ser imitadas por circuitos electrónicos a nivel de la neurona. [11] Cuando las computadoras digitales comenzaron a usarse ampliamente a principios de los años 50, este argumento se amplió para sugerir que el cerebro era un vasto sistema de símbolos físicos , que manipulaba los símbolos binarios de cero y uno. Dreyfus pudo refutar la suposición biológica citando investigaciones en neurología que sugerían que la acción y el momento de la activación de las neuronas tenían componentes analógicos. [12] Pero Daniel Crevier observa que "pocos todavía sostenían esa creencia a principios de la década de 1970, y nadie discutió contra Dreyfus" sobre el supuesto biológico. [13]
Refutó esta suposición mostrando que mucho de lo que "sabemos" sobre el mundo consiste en actitudes o tendencias complejas que nos hacen inclinarnos hacia una interpretación sobre otra. Sostuvo que, incluso cuando usamos símbolos explícitos, los estamos usando contra un trasfondo inconsciente de conocimiento de sentido común y que sin este trasfondo nuestros símbolos dejan de significar nada. Este trasfondo, en opinión de Dreyfus, no se implementó en los cerebros individuales como símbolos individuales explícitos con significados individuales explícitos.
Esto se refiere a la cuestión filosófica de la epistemología o el estudio del conocimiento . Incluso si estamos de acuerdo en que el supuesto psicológico es falso, los investigadores de IA aún podrían argumentar (como lo ha hecho el fundador de AI, John McCarthy ) que es posible que una máquina de procesamiento de símbolos represente todo el conocimiento, independientemente de si los seres humanos representan el conocimiento de la misma manera. Dreyfus argumentó que no hay justificación para esta suposición, ya que gran parte del conocimiento humano no es simbólico.
Dreyfus también identificó una suposición más sutil sobre el mundo. Los investigadores de IA (y los futuristas y escritores de ciencia ficción) a menudo suponen que no hay límite para el conocimiento científico formal, porque suponen que cualquier fenómeno en el universo puede describirse mediante símbolos o teorías científicas. Esto supone que todo lo que existe puede entenderse como objetos, propiedades de objetos, clases de objetos, relaciones de objetos, etc.: precisamente aquellas cosas que pueden describirse mediante la lógica, el lenguaje y las matemáticas. El estudio del ser o la existencia se llama ontología , y por eso Dreyfus lo llama supuesto ontológico. Si esto es falso, entonces surgen dudas sobre lo que en última instancia podemos saber y lo que las máquinas inteligentes podrán ayudarnos a hacer en última instancia.
En Mind Over Machine (1986), escrito durante el apogeo de los sistemas expertos , Dreyfus analizó la diferencia entre la experiencia humana y los programas que pretendían capturarla. Esto amplió las ideas de What Computers Can't Do , donde había presentado un argumento similar criticando la escuela de investigación de IA de " simulación cognitiva " practicada por Allen Newell y Herbert A. Simon en la década de 1960.
Dreyfus argumentó que la resolución de problemas y la experiencia humana dependen de nuestro sentido previo del contexto, de lo que es importante e interesante dada la situación, más que del proceso de buscar combinaciones de posibilidades para encontrar lo que necesitamos. Dreyfus lo describiría en 1986 como la diferencia entre "saber-qué" y "saber-cómo", basándose en la distinción de Heidegger entre presente y listo para usar . [14]
Saber: esa es nuestra capacidad consciente para resolver problemas paso a paso. Usamos estas habilidades cuando nos encontramos con un problema difícil que requiere que nos detengamos, demos un paso atrás y busquemos ideas una por una. En momentos como este, las ideas se vuelven muy precisas y simples: se convierten en símbolos libres de contexto, que manipulamos usando la lógica y el lenguaje. Estas son las habilidades que Newell y Simon habían demostrado tanto con experimentos psicológicos como con programas informáticos. Dreyfus estuvo de acuerdo en que sus programas imitaban adecuadamente las habilidades que él llama "saber eso".
El saber hacer, por otro lado, es la forma en que normalmente afrontamos las cosas. Tomamos acciones sin utilizar ningún razonamiento simbólico consciente, como cuando reconocemos una cara, nos dirigimos al trabajo o encontramos lo correcto que decir. Parece que simplemente saltamos a la respuesta adecuada, sin considerar ninguna alternativa. Esta es la esencia de la experiencia, argumentó Dreyfus: cuando nuestras intuiciones han sido entrenadas hasta el punto de olvidar las reglas y simplemente "evaluar la situación" y reaccionar.
El sentido humano de la situación, según Dreyfus, se basa en nuestros objetivos, nuestros cuerpos y nuestra cultura: todas nuestras intuiciones, actitudes y conocimientos inconscientes sobre el mundo. Este “contexto” o “trasfondo” (relacionado con el Dasein de Heidegger ) es una forma de conocimiento que no se almacena en nuestro cerebro de manera simbólica, sino de alguna manera intuitiva. Afecta lo que notamos y lo que no notamos, lo que esperamos y las posibilidades que no consideramos: discriminamos entre lo esencial y lo no esencial. Las cosas que no son esenciales quedan relegadas a nuestra "conciencia marginal" (tomando prestada una frase de William James ): los millones de cosas de las que somos conscientes, pero en las que realmente no estamos pensando en este momento.
Dreyfus no cree que los programas de IA, tal como se implementaron en los años 70 y 80, pudieran capturar este "antecedentes" o realizar el tipo de resolución rápida de problemas que permite. Sostuvo que nuestro conocimiento inconsciente nunca podría capturarse simbólicamente. Si la IA no podía encontrar una manera de abordar estos problemas, entonces estaba condenada al fracaso, un ejercicio de "trepar a los árboles con los ojos en la luna". [15]
Dreyfus comenzó a formular su crítica a principios de la década de 1960, mientras era profesor en el MIT , entonces un semillero de investigación en inteligencia artificial. Su primera publicación sobre el tema es una objeción de media página a una charla pronunciada por Herbert A. Simon en la primavera de 1961. [16] A Dreyfus le molestaba especialmente, como filósofo, que los investigadores de IA parecieran creer que estaban al borde de resolver en unos pocos años muchos problemas filosóficos de larga data, utilizando computadoras.
En 1965, Paul Armer contrató a Dreyfus (con la ayuda de su hermano Stuart Dreyfus ) para pasar el verano en las instalaciones de RAND Corporation en Santa Mónica, donde escribiría "Alquimia e IA", la primera salva de su ataque. Armer había pensado que estaba contratando a un crítico imparcial y se sorprendió cuando Dreyfus presentó un artículo mordaz destinado a demoler los cimientos del campo. (Armer declaró que desconocía la publicación anterior de Dreyfus). Armer retrasó su publicación, pero finalmente se dio cuenta de que "el hecho de que llegara a una conclusión que no le gustó no era razón para no publicarlo". [17] Finalmente salió como RAND Memo y pronto se convirtió en un éxito de ventas. [18]
El artículo ridiculizaba rotundamente la investigación de la IA, comparándola con la alquimia : un intento equivocado de convertir metales en oro basándose en una base teórica que no era más que mitología e ilusiones. [19] Ridiculizó las grandiosas predicciones de los principales investigadores de IA, prediciendo que había límites más allá de los cuales la IA no progresaría e insinuando que esos límites se alcanzarían pronto. [20]
El periódico "causó un gran revuelo", según Pamela McCorduck. [21] La respuesta de la comunidad de IA fue burlona y personal. Seymour Papert descartó un tercio del artículo como "chisme" y afirmó que cada cita fue sacada deliberadamente de contexto. [22] Herbert A. Simon acusó a Dreyfus de jugar a la "política" para poder adjuntar el prestigioso nombre RAND a sus ideas. Simon dijo: "Lo que me molesta de esto es el nombre RAND adjunto a esa basura". [23]
Dreyfus, que enseñó en el MIT , recuerda que sus colegas que trabajaban en IA "no se atrevían a ser vistos almorzando conmigo". [24] Joseph Weizenbaum , el autor de ELIZA , consideró que el trato que sus colegas dieron a Dreyfus fue poco profesional e infantil. Aunque fue un crítico abierto de las posiciones de Dreyfus, recuerda: "Me convertí en el único miembro de la comunidad de IA al que se vio almorzando con Dreyfus. Y deliberadamente dejé claro que esa no era la forma de tratar a un ser humano". [25]
El artículo fue objeto de un breve en la revista The New Yorker el 11 de junio de 1966. El artículo mencionaba la afirmación de Dreyfus de que, si bien las computadoras pueden jugar a las damas, ninguna computadora todavía puede jugar una partida decente de ajedrez. Informó con humor irónico (como lo había hecho Dreyfus) sobre la victoria de un niño de diez años sobre el principal programa de ajedrez, con "aún más que su presunción habitual". [20]
Con la esperanza de restaurar la reputación de la IA, Seymour Papert organizó una partida de ajedrez entre Dreyfus y el programa Mac Hack de Richard Greenblatt . Dreyfus perdió, para satisfacción de Papert. [26] Un boletín de la Asociación de Maquinaria de Computación [27] utilizó el titular:
Dreyfus se quejó en forma impresa de que no había dicho que una computadora nunca jugará al ajedrez, a lo que Herbert A. Simon respondió: "Deberías reconocer que algunos de aquellos que son mordidos por tu prosa de dientes afilados probablemente, en su debilidad humana, Para responder... ¿Puedo ser tan atrevido como para sugerirle que bien podría comenzar a enfriarse? La recuperación de su sentido del humor es un buen primer paso. [29]
A principios de la década de 1990, varias de las opiniones radicales de Dreyfus se habían generalizado.
Predicciones fallidas . Como había previsto Dreyfus, las grandiosas predicciones de los primeros investigadores de la IA no se hicieron realidad. Las máquinas totalmente inteligentes (ahora conocidas como " IA fuerte ") no aparecieron a mediados de la década de 1970 como se predijo. HAL 9000 (cuyas capacidades de lenguaje natural, percepción y resolución de problemas se basaban en los consejos y opiniones de Marvin Minsky ) no apareció en el año 2001. "Los investigadores de IA", escribe Nicolas Fearn, "claramente tienen algunas explicaciones que dar". [30] Hoy en día los investigadores son mucho más reacios a hacer el tipo de predicciones que se hacían en los primeros días. (Aunque algunos futuristas, como Ray Kurzweil , todavía son propensos al mismo tipo de optimismo.)
La suposición biológica , aunque común en los años cuarenta y principios de los cincuenta, ya no era asumida por la mayoría de los investigadores de IA cuando Dreyfus publicó Lo que las computadoras no pueden hacer . [13] Aunque muchos todavía argumentan que es esencial aplicar ingeniería inversa al cerebro simulando la acción de las neuronas (como Ray Kurzweil [31] o Jeff Hawkins [32] ), no asumen que las neuronas sean esencialmente digitales, sino más bien que la acción de las neuronas analógicas puede ser simulada por máquinas digitales con un nivel razonable de precisión. [31] ( Alan Turing había hecho esta misma observación ya en 1950.) [33]
El supuesto psicológico y las habilidades inconscientes . Muchos investigadores de IA han llegado a estar de acuerdo en que el razonamiento humano no consiste principalmente en la manipulación de símbolos de alto nivel. De hecho, desde que Dreyfus publicó por primera vez sus críticas en los años 60, la investigación en IA en general se ha alejado de la manipulación de símbolos de alto nivel y se ha acercado a nuevos modelos que pretenden capturar más de nuestro razonamiento inconsciente . Daniel Crevier escribe que en 1993, a diferencia de 1965, los investigadores de IA "ya no hacían la suposición psicológica", [13] y habían seguido adelante sin ella.
En los años 1980, estos nuevos enfoques " subsimbólicos " incluían:
En la década de 1990 y las primeras décadas del siglo XXI, los enfoques del aprendizaje automático basados en estadísticas utilizaban técnicas relacionadas con la economía y la estadística para permitir que las máquinas "adivinaran", es decir, tomar decisiones y predicciones inexactas y probabilísticas basadas en la experiencia y el aprendizaje. Estos programas simulan la forma en que nuestros instintos inconscientes son capaces de percibir, notar anomalías y emitir juicios rápidos, similar a lo que Dreyfus llamó "evaluar la situación y reaccionar", pero aquí la "situación" consiste en grandes cantidades de datos numéricos. Estas técnicas tienen mucho éxito y actualmente se utilizan ampliamente tanto en la industria como en el mundo académico.
Esta investigación ha avanzado sin ninguna conexión directa con el trabajo de Dreyfus. [36]
Saber-cómo y saber-qué . La investigación en psicología y economía ha podido demostrar que la especulación de Dreyfus (y Heidegger) sobre la naturaleza de la resolución de problemas humanos era esencialmente correcta. Daniel Kahnemann y Amos Tversky recopilaron una gran cantidad de pruebas contundentes de que los seres humanos utilizan dos métodos muy diferentes para resolver problemas, a los que denominaron "sistema 1" y "sistema 2". El sistema uno, también conocido como inconsciente adaptativo , es rápido, intuitivo e inconsciente. El sistema 2 es lento, lógico y deliberado. Su investigación se recopiló en el libro Thinking, Fast and Slow [ 37] e inspiró el popular libro Blink de Malcolm Gladwell . [38] Al igual que con la IA, esta investigación fue completamente independiente tanto de Dreyfus como de Heidegger. [36]
Aunque claramente la investigación sobre IA ha llegado a estar de acuerdo con Dreyfus, McCorduck afirmó que "mi impresión es que este progreso se ha producido poco a poco y en respuesta a problemas difíciles dados, y no le debe nada a Dreyfus". [36]
La comunidad de IA, con algunas excepciones, optó por no responder directamente a Dreyfus. "Es demasiado tonto para tomarlo en serio", le dijo un investigador a Pamela McCorduck. [29] Marvin Minsky dijo de Dreyfus (y de las otras críticas provenientes de la filosofía ) que "ellos malinterpretan y deben ser ignorados". [39] Cuando Dreyfus amplió Alquimia e IA hasta convertirlo en un libro y lo publicó como Lo que las computadoras no pueden hacer en 1972, nadie de la comunidad de IA decidió responder (con la excepción de algunas reseñas críticas). McCorduck pregunta: "Si Dreyfus está tan equivocado, ¿por qué la gente de inteligencia artificial no se ha esforzado más en contradecirlo?". [29]
Parte del problema fue el tipo de filosofía que utilizó Dreyfus en su crítica. Dreyfus era un experto en filósofos europeos modernos (como Heidegger y Merleau-Ponty ). [40] Los investigadores de IA de la década de 1960, por el contrario, basaron su comprensión de la mente humana en principios de ingeniería y técnicas eficientes de resolución de problemas relacionados con la ciencia de la gestión . En un nivel fundamental, hablaban un idioma diferente. Edward Feigenbaum se quejó: "¿Qué nos ofrece? ¡ Fenomenología ! Esa bola de pelusa. ¡Ese algodón de azúcar!" [41] En 1965, simplemente había una brecha demasiado grande entre la filosofía europea y la inteligencia artificial , una brecha que desde entonces ha sido llenada por la ciencia cognitiva , el conexionismo y la investigación en robótica . Pasarían muchos años antes de que los investigadores de inteligencia artificial pudieran abordar las cuestiones que eran importantes para la filosofía continental, como la situacionalidad , la encarnación , la percepción y la gestalt .
Otro problema fue que afirmaba (o parecía afirmar) que la IA nunca sería capaz de capturar la capacidad humana de comprender el contexto, la situación o el propósito en forma de reglas. Pero (como explicarían más tarde Peter Norvig y Stuart Russell ), un argumento de esta forma no puede ganarse: el hecho de que no podamos imaginar reglas formales que gobiernen la inteligencia y la experiencia humanas no significa que no existan tales reglas. Citan la respuesta de Alan Turing a todos los argumentos similares al de Dreyfus:
"No podemos convencernos tan fácilmente de la ausencia de leyes completas de la conducta... La única manera que conocemos de encontrar tales leyes es la observación científica, y ciertamente no conocemos ninguna circunstancia bajo la cual podamos decir: 'Hemos buscado lo suficiente'. . No existen tales leyes'". [42]
Dreyfus no anticipó que los investigadores de IA se darían cuenta de su error y comenzarían a trabajar en busca de nuevas soluciones, alejándose de los métodos simbólicos que Dreyfus criticaba. En 1965, no imaginaba que algún día se crearían programas de este tipo, por lo que afirmó que la IA era imposible. En 1965, los investigadores de IA no imaginaron que tales programas fueran necesarios, por lo que afirmaron que la IA estaba casi completa. Ambos estaban equivocados.
Una cuestión más grave fue la impresión de que la crítica de Dreyfus era incorregiblemente hostil. McCorduck escribió: "Su burla ha sido tan provocadora que ha alejado a cualquiera a quien podría haber iluminado. Y eso es una lástima". [36] Daniel Crevier afirmó que "el tiempo ha demostrado la precisión y perspicacia de algunos de los comentarios de Dreyfus. Si los hubiera formulado de manera menos agresiva, las acciones constructivas que sugirieron podrían haberse tomado mucho antes". [4]