Estimación de densidad de kernel variable

Forma de estimación de la densidad del kernel en la que se varía el tamaño de los kernels utilizados

En estadística , la estimación de densidad de kernel adaptativa o de "ancho de banda variable" es una forma de estimación de densidad de kernel en la que el tamaño de los kernels utilizados en la estimación varía según la ubicación de las muestras o la ubicación del punto de prueba. Es una técnica particularmente eficaz cuando el espacio muestral es multidimensional. ^[1]

Razón fundamental

Dado un conjunto de muestras, , deseamos estimar la densidad, , en un punto de prueba, : ${\displaystyle \lbrace {\vec {x}}_{i}\rbrace }$ ${\displaystyle P({\vec {x}})}$ ${\displaystyle {\vec {x}}}$

${\displaystyle P({\vec {x}})\approx {\frac {W}{nh^{D}}}}$

${\displaystyle W=\sum _{i=1}^{n}w_{i}}$

${\displaystyle w_{i}=K\left({\frac {{\vec {x}}-{\vec {x}}_{i}}{h}}\right)}$

donde n es el número de muestras, K es el "núcleo" , h es su ancho y D es el número de dimensiones en . El núcleo puede considerarse como un filtro lineal simple . ${\displaystyle {\vec {x}}}$

El uso de un ancho de filtro fijo puede significar que en regiones de baja densidad, todas las muestras caerán en las colas del filtro con una ponderación muy baja, mientras que las regiones de alta densidad encontrarán una cantidad excesiva de muestras en la región central con una ponderación cercana a la unidad. Para solucionar este problema, variamos el ancho del kernel en diferentes regiones del espacio muestral. Hay dos métodos para hacer esto: estimación de globo y estimación puntual. En un estimador de globo, el ancho del kernel varía según la ubicación del punto de prueba. En un estimador puntual, el ancho del kernel varía según la ubicación de la muestra. ^[1]

En el caso de los estimadores multivariados, el parámetro h se puede generalizar para que varíe no solo el tamaño, sino también la forma del núcleo. Este enfoque más complicado no se abordará aquí.

Estimadores de globos

Un método común para variar el ancho del núcleo es hacerlo inversamente proporcional a la densidad en el punto de prueba:

${\displaystyle h={\frac {k}{\left[nP({\vec {x}})\right]^{1/D}}}}$

donde k es una constante. Si sustituimos hacia atrás la función de densidad de probabilidad estimada y asumiendo una función de núcleo gaussiana , podemos demostrar que W es una constante: ^[2]

${\displaystyle W=k^{D}(2\pi )^{D/2}}$

Una derivación similar se aplica a cualquier núcleo cuya función normalizadora sea del orden h ^D , aunque con un factor constante diferente en lugar del término (2 π) ^D/2 . Esto produce una generalización del algoritmo de k vecinos más cercanos . Es decir, una función de núcleo uniforme devolverá la técnica KNN. ^[2]

El error tiene dos componentes: un término de varianza y un término de sesgo. El término de varianza se expresa como: ^[1]

${\displaystyle e_{1}={\frac {P\int K^{2}}{nh^{D}}}}$.

El término de sesgo se obtiene evaluando la función aproximada en el límite a medida que el ancho del núcleo se vuelve mucho mayor que el espaciado de la muestra. Al utilizar una expansión de Taylor para la función real, el término de sesgo desaparece:

${\displaystyle e_{2}={\frac {h^{2}}{n}}\nabla ^{2}P}$

De esta forma se puede derivar un ancho de kernel óptimo que minimice el error de cada estimación.

Uso para clasificación estadística

El método es particularmente eficaz cuando se aplica a la clasificación estadística . Hay dos formas de proceder: la primera es calcular las PDF de cada clase por separado, utilizando diferentes parámetros de ancho de banda, y luego compararlas como en Taylor. ^[3] Alternativamente, podemos dividir la suma en función de la clase de cada muestra:

${\displaystyle P(j,{\vec {x}})\approx {\frac {1}{n}}\sum _{i=1,c_{i}=j}^{n}w_{i}}$

donde c _i es la clase de la i- ésima muestra. La clase del punto de prueba puede estimarse mediante máxima verosimilitud .

Enlaces externos

• akde1d.m - Archivo m de Matlab para la estimación de densidad de kernel adaptativa unidimensional.
• libAGF: una biblioteca C++ para la estimación de densidad de kernel adaptativa multivariada.
• akde.m - Función de Matlab para la estimación de densidad de kernel de variables multivariadas (de alta dimensión).

Referencias

1. DG Terrell; DW Scott (1992). "Estimación de densidad de kernel variable". Anales de Estadística . 20 (3): 1236–1265. doi : 10.1214/aos/1176348768 .
2. Mills, Peter (2011). "Clasificación estadística eficiente de mediciones satelitales". Revista Internacional de Teledetección . 32 (21): 6109–6132. arXiv : 1202.2194 . Código Bibliográfico :2011IJRS...32.6109M. doi :10.1080/01431161.2010.507795. S2CID  88518570.
3. Taylor, Charles (1997). "Clasificación y estimación de densidad de núcleo". Vistas en Astronomía . 41 (3): 411–417. Bibcode :1997VA.....41..411T. doi :10.1016/s0083-6656(97)00046-9.