Mapa autoorganizado en crecimiento

Variante creciente de un mapa autoorganizado

Un mapa autoorganizado en crecimiento (GSOM) es una variante en crecimiento de un mapa autoorganizado (SOM). El GSOM fue desarrollado para abordar la cuestión de identificar un tamaño de mapa adecuado en el SOM . Comienza con una cantidad mínima de nodos (generalmente 4) y desarrolla nuevos nodos en el límite según una heurística. Al utilizar el valor llamado Spread Factor (SF), el analista de datos tiene la capacidad de controlar el crecimiento del GSOM.

Todos los nodos iniciales del GSOM son nodos límite, es decir, cada nodo tiene la libertad de crecer en su propia dirección al principio. (Fig. 1) Los nuevos nodos crecen a partir de los nodos límite. Una vez que se selecciona un nodo para crecer, se desarrollarán nuevos nodos en todas sus posiciones vecinas libres. La figura muestra las tres posibles opciones de crecimiento de nodos para un GSOM rectangular.

Opciones de crecimiento de nodos en GSOM: (a) un nodo nuevo, (b) dos nodos nuevos y (c) tres nodos nuevos.

el algoritmo

El proceso GSOM es el siguiente:

1. Fase de inicialización:
   1. Inicialice los vectores de peso de los nodos iniciales (generalmente cuatro) con números aleatorios entre 0 y 1.
   2. Calcule el umbral de crecimiento ( ) para el conjunto de datos de dimensión dado de acuerdo con el factor de dispersión ( ) usando la fórmula ${\displaystyle GT}$ ${\displaystyle D}$ ${\displaystyle SF}$ ${\displaystyle GT=-D\times \ln(SF)}$
2. Fase de crecimiento:
   1. Presentar entrada a la red.
   2. Determine el vector de peso más cercano al vector de entrada asignado al mapa de características actual (ganador), utilizando la distancia euclidiana (similar al SOM ). Este paso se puede resumir como: encontrar tal que donde , sean los vectores de entrada y peso respectivamente, sea el vector de posición para los nodos y sea el conjunto de números naturales. ${\displaystyle q'}$ ${\displaystyle \left|v-w_{q'}\right\vert \leq \left|v-w_{q}\right\vert \forall q\in \mathbb {N} }$ ${\displaystyle v}$ ${\displaystyle w}$ ${\displaystyle q}$ ${\displaystyle \mathbb {N} }$
   3. La adaptación del vector de peso se aplica sólo a la vecindad del ganador y al propio ganador. El vecindario es un conjunto de neuronas alrededor del ganador, pero en el GSOM el vecindario inicial seleccionado para la adaptación al peso es más pequeño en comparación con el SOM (adaptación de peso localizada). La cantidad de adaptación (tasa de aprendizaje) también se reduce exponencialmente a lo largo de las iteraciones. Incluso dentro del vecindario, los pesos que están más cerca del ganador se adaptan más que los que están más lejos. La adaptación del peso se puede describir donde la tasa de aprendizaje es una secuencia de parámetros positivos que convergen a cero como . , son los vectores de peso del nodo antes y después de la adaptación y es la vecindad de la neurona ganadora en la tercera iteración. El valor decreciente de en el GSOM depende de la cantidad de nodos existentes en el mapa en ese momento . ${\displaystyle w_{j}(k+1)={\begin{cases}w_{j}(k)&{\text{if }}j\notin \mathrm {N} _{k+1}\\w_{j}(k)+LR(k)\times (x_{k}-w_{j}(k))&{\text{if }}j\in \mathrm {N} _{k+1}\end{cases}}}$ ${\displaystyle LR(k)}$ ${\displaystyle k\in \mathbb {N} }$ ${\displaystyle k\to \infty }$ ${\displaystyle w_{j}(k)}$ ${\displaystyle w_{j}(k+1)}$ ${\displaystyle j}$ ${\displaystyle \mathrm {N} _{k+1}}$ ${\displaystyle (k+1)}$ ${\displaystyle LR(k)}$ ${\displaystyle k}$
   4. Aumente el valor de error del ganador (el valor de error es la diferencia entre el vector de entrada y los vectores de peso).
   5. Cuándo (dónde está el error total del nodo y es el umbral de crecimiento). Haga crecer los nodos si i es un nodo límite. Distribuya pesos a los vecinos si es un nodo no límite. ${\displaystyle TE_{i}>GT}$ ${\displaystyle TE_{i}}$ ${\displaystyle i}$ ${\displaystyle GT}$ ${\displaystyle i}$
   6. Inicialice los nuevos vectores de peso de nodo para que coincidan con los pesos de los nodos vecinos.
   7. Inicialice la tasa de aprendizaje ( ) a su valor inicial. ${\displaystyle LR}$
   8. Repita los pasos 2 a 7 hasta que se hayan presentado todas las entradas y el crecimiento de los nodos se reduzca al nivel mínimo.
3. Fase de alisado.
   1. Reduzca la tasa de aprendizaje y arregle un pequeño vecindario inicial.
   2. Encuentre el ganador y adapte los pesos del ganador y de los vecinos de la misma manera que en la fase de crecimiento.

Aproximación de una espiral con ruido mediante 1D SOM (la fila superior) y GSOM (la fila inferior) con 50 (la primera columna) y 100 (la segunda columna) nodos. La fracción de varianza inexplicable es: a) 4,68% (SOM, 50 nodos); b) 1,69% (SOM, 100 nodos); c) 4,20% (GSOM, 50 nodos); d) 2,32% (GSOM, 100 nodos). La aproximación inicial para SOM fue la equidistribución de nodos en un segmento en el primer componente principal con la misma varianza que para el conjunto de datos. La aproximación inicial para GSOM fue el punto medio. ^[1]

Aplicaciones

El GSOM se puede utilizar para muchas tareas de preprocesamiento en minería de datos , para reducción de dimensionalidad no lineal , para aproximación de curvas y variedades principales, para agrupamiento y clasificación . A menudo ofrece una mejor representación de la geometría de los datos que el SOM (consulte el punto de referencia clásico para las curvas principales a la izquierda).

Referencias

1. La ilustración está preparada con software gratuito: EM Mirkes, Análisis de componentes principales y mapas autoorganizados: subprograma. Universidad de Leicester, 2011.

Bibliografía

• Liu, Y.; Weisberg, RH; Él, R. (2006). "Patrones de temperatura de la superficie del mar en la plataforma occidental de Florida utilizando mapas autoorganizados jerárquicos en crecimiento". Revista de Tecnología Atmosférica y Oceánica . 23 (2): 325–338. Código Bib : 2006JAtOT..23..325L. doi :10.1175/JTECH1848.1. hdl : 1912/4186 .
• Hsu, A.; Tang, S.; Halgamuge, SK (2003). "Un enfoque autoorganizado dinámico jerárquico no supervisado para el descubrimiento de clases de cáncer y la identificación de genes marcadores en datos de microarrays". Bioinformática . 19 (16): 2131–2140. doi : 10.1093/bioinformática/btg296 . PMID  14594719.
• Alahakoon, D.; Halgamuge, SK; Sirinivasan, B. (2000). "Mapas dinámicos autoorganizados con crecimiento controlado para el descubrimiento de conocimientos". Transacciones IEEE en redes neuronales . 11 (3): 601–614. doi : 10.1109/72.846732. PMID  18249788.

Ver también

• Mapa autoorganizado
• Mapa autoorganizado adaptable al tiempo
• mapa elástico
• Inteligencia artificial
• Aprendizaje automático
• Minería de datos
• Reducción de dimensionalidad no lineal.