Análisis discriminante de Kernel Fisher

En estadística , el análisis discriminante kernel de Fisher (KFD) , ^[1] también conocido como análisis discriminante generalizado ^[2] y análisis discriminante kernel , ^[3] es una versión kernelizada del análisis discriminante lineal (LDA). Lleva el nombre de Ronald Fisher .

Análisis discriminante lineal

Intuitivamente, la idea de LDA es encontrar una proyección donde se maximice la separación de clases. Dados dos conjuntos de datos etiquetados, y , podemos calcular el valor medio de cada clase, y , como ${\displaystyle \mathbf {C} _{1}}$ ${\displaystyle \mathbf {C} _{2}}$ ${\displaystyle \mathbf {m} _{1}}$ ${\displaystyle \mathbf {m} _{2}}$

${\displaystyle \mathbf {m} _{i}={\frac {1}{l_{i}}}\sum _{n=1}^{l_{i}}\mathbf {x} _{n}^{i},}$

donde es el número de ejemplos de la clase . El objetivo del análisis discriminante lineal es dar una gran separación de las medias de la clase y, al mismo tiempo, mantener pequeña la varianza dentro de la clase. ^[4] Esto se formula como la maximización, con respecto a , de la siguiente relación: ${\displaystyle l_{i}}$ ${\displaystyle \mathbf {C} _{i}}$ ${\displaystyle \mathbf {w} }$

${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} }},}$

donde es la matriz de covarianza entre clases y es la matriz de covarianza total dentro de clases: ${\displaystyle \mathbf {S} _{B}}$ ${\displaystyle \mathbf {S} _{W}}$

${\displaystyle {\begin{aligned}\mathbf {S} _{B}&=(\mathbf {m} _{2}-\mathbf {m} _{1})(\mathbf {m} _{2}-\mathbf {m} _{1})^{\text{T}}\\\mathbf {S} _{W}&=\sum _{i=1,2}\sum _{n=1}^{l_{i}}(\mathbf {x} _{n}^{i}-\mathbf {m} _{i})(\mathbf {x} _{n}^{i}-\mathbf {m} _{i})^{\text{T}}.\end{aligned}}}$

El máximo de la relación anterior se alcanza en

${\displaystyle \mathbf {w} \propto \mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1}).}$

como se puede demostrar mediante el método del multiplicador de Lagrange (esquema de prueba):

Maximizar es equivalente a maximizar ${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} }}}$

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }$

sujeto a

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} =1.}$

Esto, a su vez, es equivalente a maximizar , donde es el multiplicador de Lagrange. ${\displaystyle I(\mathbf {w} ,\lambda )=\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} -\lambda (\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} -1)}$ ${\displaystyle \lambda }$

Como máximo, las derivadas de con respecto a y deben ser cero. Tomando como resultado ${\displaystyle I(\mathbf {w} ,\lambda )}$ ${\displaystyle \mathbf {w} }$ ${\displaystyle \lambda }$ ${\displaystyle {\frac {dI}{d\mathbf {w} }}=\mathbf {0} }$

${\displaystyle \mathbf {S} _{B}\mathbf {w} -\lambda \mathbf {S} _{W}\mathbf {w} =\mathbf {0} ,}$

lo cual se satisface trivialmente con y ${\displaystyle \mathbf {w} =c\mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1})}$ ${\displaystyle \lambda =(\mathbf {m} _{2}-\mathbf {m} _{1})^{\text{T}}\mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1}).}$

Ampliación de LDA

Para extender LDA a asignaciones no lineales, los datos, dados como puntos , se pueden asignar a un nuevo espacio de características, a través de alguna función. En este nuevo espacio de características, la función que se debe maximizar es ^[1] ${\displaystyle \ell }$ ${\displaystyle \mathbf {x} _{i},}$ ${\displaystyle F,}$ ${\displaystyle \phi .}$

${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} }},}$

dónde

${\displaystyle {\begin{aligned}\mathbf {S} _{B}^{\phi }&=\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)^{\text{T}}\\\mathbf {S} _{W}^{\phi }&=\sum _{i=1,2}\sum _{n=1}^{l_{i}}\left(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi }\right)^{\text{T}},\end{aligned}}}$

y

${\displaystyle \mathbf {m} _{i}^{\phi }={\frac {1}{l_{i}}}\sum _{j=1}^{l_{i}}\phi (\mathbf {x} _{j}^{i}).}$

Además, tenga en cuenta que . Calcular explícitamente las asignaciones y luego realizar LDA puede ser computacionalmente costoso y, en muchos casos, intratable. Por ejemplo, puede tener una dimensión infinita. Por lo tanto, en lugar de asignar explícitamente los datos a , los datos se pueden incrustar implícitamente reescribiendo el algoritmo en términos de productos puntuales y utilizando funciones de kernel en las que el producto puntual en el nuevo espacio de características se reemplaza por una función de kernel, . ${\displaystyle \mathbf {w} \in F}$ ${\displaystyle \phi (\mathbf {x} _{i})}$ ${\displaystyle F}$ ${\displaystyle F}$ ${\displaystyle k(\mathbf {x} ,\mathbf {y} )=\phi (\mathbf {x} )\cdot \phi (\mathbf {y} )}$

LDA se puede reformular en términos de productos escalares observando primero que tendrá una expansión de la forma ^[5] ${\displaystyle \mathbf {w} }$

${\displaystyle \mathbf {w} =\sum _{i=1}^{l}\alpha _{i}\phi (\mathbf {x} _{i}).}$

Entonces tenga en cuenta que

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {m} _{i}^{\phi }={\frac {1}{l_{i}}}\sum _{j=1}^{l}\sum _{k=1}^{l_{i}}\alpha _{j}k\left(\mathbf {x} _{j},\mathbf {x} _{k}^{i}\right)=\mathbf {\alpha } ^{\text{T}}\mathbf {M} _{i},}$

dónde

${\displaystyle (\mathbf {M} _{i})_{j}={\frac {1}{l_{i}}}\sum _{k=1}^{l_{i}}k(\mathbf {x} _{j},\mathbf {x} _{k}^{i}).}$

El numerador de puede entonces escribirse como: ${\displaystyle J(\mathbf {w} )}$

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {w} =\mathbf {w} ^{\text{T}}\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)^{\text{T}}\mathbf {w} =\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } ,\qquad {\text{where}}\qquad \mathbf {M} =(\mathbf {M} _{2}-\mathbf {M} _{1})(\mathbf {M} _{2}-\mathbf {M} _{1})^{\text{T}}.}$

De manera similar, el denominador se puede escribir como

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} =\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } ,\qquad {\text{where}}\qquad \mathbf {N} =\sum _{j=1,2}\mathbf {K} _{j}(\mathbf {I} -\mathbf {1} _{l_{j}})\mathbf {K} _{j}^{\text{T}},}$

con el componente de definido como es la matriz identidad, y la matriz con todas las entradas iguales a . Esta identidad se puede derivar comenzando con la expresión para y usando la expansión de y las definiciones de y ${\displaystyle n^{\text{th}},m^{\text{th}}}$ ${\displaystyle \mathbf {K} _{j}}$ ${\displaystyle k(\mathbf {x} _{n},\mathbf {x} _{m}^{j}),\mathbf {I} }$ ${\displaystyle \mathbf {1} _{l_{j}}}$ ${\displaystyle 1/l_{j}}$ ${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} }$ ${\displaystyle \mathbf {w} }$ ${\displaystyle \mathbf {S} _{W}^{\phi }}$ ${\displaystyle \mathbf {m} _{i}^{\phi }}$

${\displaystyle {\begin{aligned}\mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} &=\left(\sum _{i=1}^{l}\alpha _{i}\phi ^{\text{T}}(\mathbf {x} _{i})\right)\left(\sum _{j=1,2}\sum _{n=1}^{l_{j}}\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)^{\text{T}}\right)\left(\sum _{k=1}^{l}\alpha _{k}\phi (\mathbf {x} _{k})\right)\\&=\sum _{j=1,2}\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\phi ^{\text{T}}(\mathbf {x} _{i})\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)^{\text{T}}\alpha _{k}\phi (\mathbf {x} _{k})\right)\\&=\sum _{j=1,2}\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})-{\frac {1}{l_{j}}}\sum _{p=1}^{l_{j}}\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} _{p}^{j})\right)\left(\alpha _{k}k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {1}{l_{j}}}\sum _{q=1}^{l_{j}}\alpha _{k}k(\mathbf {x} _{k},\mathbf {x} _{q}^{j})\right)\\&=\sum _{j=1,2}\left(\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\alpha _{k}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {2\alpha _{i}\alpha _{k}}{l_{j}}}\sum _{p=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{p}^{j})+{\frac {\alpha _{i}\alpha _{k}}{l_{j}^{2}}}\sum _{p=1}^{l_{j}}\sum _{q=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{p}^{j})k(\mathbf {x} _{k},\mathbf {x} _{q}^{j})\right)\right)\\&=\sum _{j=1,2}\left(\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\alpha _{k}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {\alpha _{i}\alpha _{k}}{l_{j}}}\sum _{p=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{p}^{j})\right)\right)\\[6pt]&=\sum _{j=1,2}\mathbf {\alpha } ^{\text{T}}\mathbf {K} _{j}\mathbf {K} _{j}^{\text{T}}\mathbf {\alpha } -\mathbf {\alpha } ^{\text{T}}\mathbf {K} _{j}\mathbf {1} _{l_{j}}\mathbf {K} _{j}^{\text{T}}\mathbf {\alpha } \\[4pt]&=\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } .\end{aligned}}}$

Con estas ecuaciones para el numerador y denominador de , la ecuación para se puede reescribir como ${\displaystyle J(\mathbf {w} )}$ ${\displaystyle J}$

${\displaystyle J(\mathbf {\alpha } )={\frac {\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } }{\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } }}.}$

Luego, diferenciando e igualando a cero se obtiene

${\displaystyle (\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } )\mathbf {N} \mathbf {\alpha } =(\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } )\mathbf {M} \mathbf {\alpha } .}$

Dado que solo importa la dirección de , y por lo tanto la dirección de , lo anterior se puede resolver como ${\displaystyle \mathbf {w} }$ ${\displaystyle \mathbf {\alpha } ,}$ ${\displaystyle \mathbf {\alpha } }$

${\displaystyle \mathbf {\alpha } =\mathbf {N} ^{-1}(\mathbf {M} _{2}-\mathbf {M} _{1}).}$

Nótese que en la práctica, suele ser singular y por eso se le suma un múltiplo de la identidad ^[1] ${\displaystyle \mathbf {N} }$

${\displaystyle \mathbf {N} _{\epsilon }=\mathbf {N} +\epsilon \mathbf {I} .}$

Dada la solución para , la proyección de un nuevo punto de datos está dada por ^[1] ${\displaystyle \mathbf {\alpha } }$

${\displaystyle y(\mathbf {x} )=(\mathbf {w} \cdot \phi (\mathbf {x} ))=\sum _{i=1}^{l}\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} ).}$

KFD multiclase

La extensión a casos en los que hay más de dos clases es relativamente sencilla. ^{[2] [6] [7]} Sea el número de clases. Entonces, la KFD multiclase implica proyectar los datos en un espacio dimensional utilizando funciones discriminantes. ${\displaystyle c}$ ${\displaystyle (c-1)}$ ${\displaystyle (c-1)}$

${\displaystyle y_{i}=\mathbf {w} _{i}^{\text{T}}\phi (\mathbf {x} )\qquad i=1,\ldots ,c-1.}$

Esto se puede escribir en notación matricial.

${\displaystyle \mathbf {y} =\mathbf {W} ^{\text{T}}\phi (\mathbf {x} ),}$

donde son las columnas de . ^[6] Además, la matriz de covarianza entre clases es ahora ${\displaystyle \mathbf {w} _{i}}$ ${\displaystyle \mathbf {W} }$

${\displaystyle \mathbf {S} _{B}^{\phi }=\sum _{i=1}^{c}l_{i}(\mathbf {m} _{i}^{\phi }-\mathbf {m} ^{\phi })(\mathbf {m} _{i}^{\phi }-\mathbf {m} ^{\phi })^{\text{T}},}$

donde es la media de todos los datos en el nuevo espacio de características. La matriz de covarianza dentro de la clase es ${\displaystyle \mathbf {m} ^{\phi }}$

${\displaystyle \mathbf {S} _{W}^{\phi }=\sum _{i=1}^{c}\sum _{n=1}^{l_{i}}(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi })(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi })^{\text{T}},}$

La solución ahora se obtiene maximizando

${\displaystyle J(\mathbf {W} )={\frac {\left|\mathbf {W} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {W} \right|}{\left|\mathbf {W} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {W} \right|}}.}$

El truco del núcleo se puede utilizar nuevamente y el objetivo del KFD multiclase se convierte en ^[7]

${\displaystyle \mathbf {A} ^{*}={\underset {\mathbf {A} }{\operatorname {argmax} }}={\frac {\left|\mathbf {A} ^{\text{T}}\mathbf {M} \mathbf {A} \right|}{\left|\mathbf {A} ^{\text{T}}\mathbf {N} \mathbf {A} \right|}},}$

donde y ${\displaystyle A=[\mathbf {\alpha } _{1},\ldots ,\mathbf {\alpha } _{c-1}]}$

${\displaystyle {\begin{aligned}M&=\sum _{j=1}^{c}l_{j}(\mathbf {M} _{j}-\mathbf {M} _{*})(\mathbf {M} _{j}-\mathbf {M} _{*})^{\text{T}}\\N&=\sum _{j=1}^{c}\mathbf {K} _{j}(\mathbf {I} -\mathbf {1} _{l_{j}})\mathbf {K} _{j}^{\text{T}}.\end{aligned}}}$

Se definen como en la sección anterior y se definen como ${\displaystyle \mathbf {M} _{i}}$ ${\displaystyle \mathbf {M} _{*}}$

${\displaystyle (\mathbf {M} _{*})_{j}={\frac {1}{l}}\sum _{k=1}^{l}k(\mathbf {x} _{j},\mathbf {x} _{k}).}$

${\displaystyle \mathbf {A} ^{*}}$puede entonces calcularse encontrando los vectores propios principales de . ^[7] Además, la proyección de una nueva entrada, , está dada por ^[7] ${\displaystyle (c-1)}$ ${\displaystyle \mathbf {N} ^{-1}\mathbf {M} }$ ${\displaystyle \mathbf {x} _{t}}$

${\displaystyle \mathbf {y} (\mathbf {x} _{t})=\left(\mathbf {A} ^{*}\right)^{\text{T}}\mathbf {K} _{t},}$

donde el componente de está dado por . ${\displaystyle i^{th}}$ ${\displaystyle \mathbf {K} _{t}}$ ${\displaystyle k(\mathbf {x} _{i},\mathbf {x} _{t})}$

Clasificación mediante KFD

Tanto en KFD de dos clases como de múltiples clases, la etiqueta de clase de una nueva entrada se puede asignar como ^[7]

${\displaystyle f(\mathbf {x} )=arg\min _{j}D(\mathbf {y} (\mathbf {x} ),{\bar {\mathbf {y} }}_{j}),}$

donde es la media proyectada para la clase y es una función de distancia. ${\displaystyle {\bar {\mathbf {y} }}_{j}}$ ${\displaystyle j}$ ${\displaystyle D(\cdot ,\cdot )}$

Aplicaciones

El análisis discriminante de kernel se ha utilizado en diversas aplicaciones, entre ellas:

• Reconocimiento facial ^{[3] [8] [9]} y detección ^{[10] [11]}
• Reconocimiento de dígitos escritos a mano ^{[1] [12]}
• Reconocimiento de huellas de palmas ^[13]
• Clasificación de microcalcificaciones malignas y benignas en racimos ^[14]
• Clasificación de semillas ^[2]
• Búsqueda del bosón de Higgs en el CERN ^[15]

Véase también

• Análisis factorial
• Análisis de componentes principales del núcleo
• Truco del kernel
• Análisis discriminante lineal

Referencias

1. Mika, S; Rätsch, G.; Weston, J.; Schölkopf, B.; Müller, KR (1999). "Análisis discriminante de Fisher con núcleos". Redes neuronales para procesamiento de señales IX: Actas del taller de la IEEE Signal Processing Society de 1999 (Cat. N.° 98TH8468) . Vol. IX. págs. 41–48. CiteSeerX  10.1.1.35.9904 . doi :10.1109/NNSP.1999.788121. ISBN . 978-0-7803-5673-3. Número de identificación del sujeto  8473401.
2. Baudat, G.; Anouar, F. (2000). "Análisis discriminante generalizado utilizando un enfoque kernel". Computación neuronal . 12 (10): 2385–2404. CiteSeerX 10.1.1.412.760 . doi :10.1162/089976600300014980. PMID  11032039. S2CID  7036341. 
3. Li, Y.; Gong, S.; Liddell, H. (2003). "Reconocimiento de trayectorias de identidades faciales mediante análisis discriminante de núcleo". Image and Vision Computing . 21 (13–14): 1077–1086. CiteSeerX 10.1.1.2.6315 . doi :10.1016/j.imavis.2003.08.010. 
4. Bishop, CM (2006). Reconocimiento de patrones y aprendizaje automático . Nueva York, NY: Springer.
5. Scholkopf, B; Herbrich, R.; Smola, A. (2001). "Un teorema de representante generalizado". Computational Learning Theory . Lecture Notes in Computer Science. Vol. 2111. págs. 416–426. CiteSeerX 10.1.1.42.8617 . doi :10.1007/3-540-44581-1_27. ISBN  978-3-540-42343-0.
6. Duda, R.; Hart, P.; Stork, D. (2001). Clasificación de patrones . Nueva York, NY: Wiley.
7. Zhang, J.; Ma, KK (2004). "Discriminante de Kernel Fisher para clasificación de textura". {{cite journal}}: Requiere citar revista |journal=( ayuda )
8. Liu, Q.; Lu, H.; Ma, S. (2004). "Mejora del análisis discriminante de Fisher del núcleo para el reconocimiento facial". IEEE Transactions on Circuits and Systems for Video Technology . 14 (1): 42–49. doi :10.1109/tcsvt.2003.818352. S2CID  39657721.
9. Liu, Q.; Huang, R.; Lu, H.; Ma, S. (2002). "Reconocimiento facial mediante análisis discriminante de Fisher basado en kernel". IEEE International Conference on Automatic Face and Gesture Recognition .
10. Kurita, T.; Taguchi, T. (2002). "Una modificación del análisis discriminante de Fisher basado en kernel para la detección de rostros". Actas de la quinta conferencia internacional IEEE sobre reconocimiento automático de gestos faciales . pp. 300–305. CiteSeerX 10.1.1.100.3568 . doi :10.1109/AFGR.2002.1004170. ISBN .  978-0-7695-1602-8.S2CID 7581426  .
11. Feng, Y.; Shi, P. (2004). "Detección de rostros basada en análisis discriminante de Kernel Fisher". Conferencia internacional IEEE sobre reconocimiento automático de rostros y gestos .
12. Yang, J.; Frangi, AF; Yang, JY; Zang, D., Jin, Z. (2005). "KPCA más LDA: un marco discriminante de kernel Fisher completo para la extracción y reconocimiento de características". IEEE Transactions on Pattern Analysis and Machine Intelligence . 27 (2): 230–244. CiteSeerX 10.1.1.330.1179 . doi :10.1109/tpami.2005.33. PMID  15688560. S2CID  9771368. {{cite journal}}: CS1 maint: multiple names: authors list (link)
13. Wang, Y.; Ruan, Q. (2006). "Análisis discriminante de Kernel Fisher para el reconocimiento de huellas de palmas". Conferencia internacional sobre reconocimiento de patrones .
14. Wei, L.; Yang, Y.; Nishikawa, RM; Jiang, Y. (2005). "Un estudio sobre varios métodos de aprendizaje automático para la clasificación de microcalcificaciones agrupadas malignas y benignas". IEEE Transactions on Medical Imaging . 24 (3): 371–380. doi :10.1109/tmi.2004.842457. PMID  15754987. S2CID  36691320.
15. Malmgren, T. (1997). "Un programa iterativo de análisis discriminante no lineal: IDA 1.0". Computer Physics Communications . 106 (3): 230–236. Código Bibliográfico :1997CoPhC.106..230M. doi :10.1016/S0010-4655(97)00100-8.

Enlaces externos

• Análisis discriminante de núcleo en C#: código C# para realizar KFD.
• Caja de herramientas de Matlab para reducción de dimensionalidad: incluye un método para realizar KFD.
• Reconocimiento de escritura a mano mediante análisis discriminante de kernel: código C# que demuestra el reconocimiento de dígitos escritos a mano mediante KFD.