Muchas investigaciones en las que se utilizan redes neuronales son denominadas con el nombre más genérico de "conexionistas".
Muchos investigadores, como Paul Smolensky, han argumentado que los modelos conexionistas evolucionarán hacia sistemas dinámicos no lineales con un enfoque plenamente continuo y de múltiples dimensiones.
Esto enlaza el conexionismo con la neurociencia, con modelos que implican diferentes grados de realismo biológico.
A muchos autores les atrae del conexionismo la clara relación que se puede encontrar entre la actividad neuronal y la cognición.
Diversos estudios han estado enfocados en diseñar métodos de enseñanza-aprendizaje a partir del conexionismo.
El enfoque conexionista que prevalece hoy en día fue originalmente conocido como procesamiento distribuido en paralelo (PDP).
Es decir, todos los procesos cognitivos pueden ser explicados en términos de activación neuronal y comunicación.
Pero los modelos perceptrón se hicieron muy impopulares a raíz del libro Perceptrons: An Introduction to Computational Geometry de Marvin Minsky y Seymour Papert, publicado en 1969.
McCulloch y Pitts mostraron cómo los sistemas neurales podrían implementar la lógica de primer orden en un artículo clásico "A Logical Calculus of Ideas Immanent in Nervous Activity" (1943).
Las teorías psicológicas basadas en el conocimiento del cerebro humano estaban de moda en el siglo XIX.
El trabajo de Hayek era raramente citado en la literatura sobre PDP hasta hace poco.
La gramática estratificacional solo ha sido utilizada por los lingüistas, y nunca fue unificada bajo el enfoque de los PDP.
Por el contrario estas tendencias hicieron que otros investigadores fueran atraídos hacia el conexionismo.
Durante el debate, algunos investigadores han argumentado que el conexionismo y la IA convencional son totalmente compatibles, aunque no se ha alcanzado un consenso pleno sobre esta cuestión.
Sin embargo, este desarrollo relativamente reciente aún no han alcanzado un consenso aceptable entre aquellos que trabajan en otros campos, tales como la psicología o la filosofía de la mente.
En este sentido, los modelos conexionistas pueden aportar datos para una teoría general del conocimiento (es decir, el conexionismo), sin que ello represente una teoría útil del proceso particular que esté siendo modelado.
La reciente popularidad de los sistemas dinámicos en la filosofía de la mente (debido a las obras de autores como Tim van Gelder) ha añadido una nueva perspectiva al debate, algunos autores argumentan ahora que cualquier división entre el conexionismo y la IA convencional queda mejor caracterizada como una división entre la IA convencional y los sistemas dinámicos.