stringtranslate.com

Neocognitrón


El neocognitrón es una red neuronal artificial jerárquica y multicapa propuesta por Kunihiko Fukushima en 1979. [1] [2] Se ha utilizado para el reconocimiento de caracteres escritos a mano japoneses y otras tareas de reconocimiento de patrones , y sirvió como inspiración para las redes neuronales convolucionales . [3]

Anteriormente, en 1969, publicó una arquitectura similar, pero con núcleos diseñados a mano inspirados en las convoluciones de la visión de los mamíferos. [4] En 1975, la mejoró hasta convertirla en Cognitron, [5] [6] y en 1979 la mejoró hasta convertirla en neocognitron, que aprende todos los núcleos convolucionales mediante aprendizaje no supervisado (en su terminología, " autoorganizado mediante 'aprendizaje sin maestro'"). [2]

El neocognitrón se inspiró en el modelo propuesto por Hubel y Wiesel en 1959. Encontraron dos tipos de células en la corteza visual primaria llamadas célula simple y célula compleja , y también propusieron un modelo en cascada de estos dos tipos de células para su uso en tareas de reconocimiento de patrones. [7] [8]

El neocognitrón es una extensión natural de estos modelos en cascada. El neocognitrón consta de varios tipos de células, las más importantes de las cuales se denominan células S y células C. [9] Las células S extraen las características locales y las células C toleran la deformación de estas características, como los desplazamientos locales. Las características locales de la entrada se integran gradualmente y se clasifican en las capas superiores. [10] La idea de la integración de características locales se encuentra en varios otros modelos, como el modelo de red neuronal convolucional , el método SIFT y el método HoG .

Existen varios tipos de neocognitrón. [11] Por ejemplo, algunos tipos de neocognitrón pueden detectar múltiples patrones en la misma entrada utilizando señales hacia atrás para lograr una atención selectiva . [12]

Véase también

Notas

  1. ^ Fukushima, Kunihiko (octubre de 1979). "位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---" [Modelo de red neuronal para un mecanismo de reconocimiento de patrones que no se ve afectado por el cambio de posición - Neocognitron -]. Trans. IECE (en japonés). J62-A (10): 658–665.
  2. ^ ab Fukushima, Kunihiko (1980). "Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position" (PDF) . Cibernética biológica . 36 (4): 193–202. doi :10.1007/BF00344251. PMID  7370364. S2CID  206775608. Archivado (PDF) desde el original el 3 de junio de 2014 . Consultado el 16 de noviembre de 2013 .
  3. ^ LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). "Aprendizaje profundo" (PDF) . Nature . 521 (7553): 436–444. Bibcode :2015Natur.521..436L. doi :10.1038/nature14539. PMID  26017442. S2CID  3074096.
  4. ^ Fukushima, Kunihiko (1969). "Extracción de características visuales mediante una red multicapa de elementos de umbral analógicos". IEEE Transactions on Systems Science and Cybernetics . 5 (4): 322–333. doi :10.1109/TSSC.1969.300225. ISSN  0536-1567.
  5. ^ Fukushima, Kunihiko (1975). "Cognitron: una red neuronal multicapa autoorganizada". Cibernética biológica . 20 (3–4): 121–136. doi :10.1007/BF00342633. ISSN  0340-1200.
  6. ^ Fukushima, K.: Red neuronal multicapa autoorganizada "Cognitron" (en japonés), Documento del Grupo Técnico sobre Reconocimiento y Aprendizaje de Patrones, Inst. Electronics Comm. Engrs. Japan, PRL74-25 (1974); y 1974 Nat. Conv. Rec. of Inst. Electronics Commun. Engrs. Japan, No. S9-8 (1974)
  7. ^ David H. Hubel y Torsten N. Wiesel (2005). Cerebro y percepción visual: la historia de una colaboración de 25 años. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6.
  8. ^ Hubel, DH; Wiesel, TN (octubre de 1959). "Campos receptivos de neuronas individuales en la corteza estriada del gato". J. Physiol . 148 (3): 574–91. doi :10.1113/jphysiol.1959.sp006308. PMC 1363130 . PMID  14403679. 
  9. ^ Fukushima 1987, pág. 83.
  10. ^ Fukushima 1987, pág. 84.
  11. ^ Fukushima 2007.
  12. ^ Fukushima 1987, págs. 81, 85.

Referencias

Enlaces externos


  • en
  • a
  • mi