Función de varianza

Función suave en estadística

En estadística , la función de varianza es una función suave que representa la varianza de una cantidad aleatoria en función de su media . La función de varianza es una medida de heterocedasticidad y desempeña un papel importante en muchos entornos de modelado estadístico. Es un ingrediente principal en el marco del modelo lineal generalizado y una herramienta utilizada en regresión no paramétrica , ^[1] regresión semiparamétrica ^[1] y análisis de datos funcionales . ^[2] En el modelado paramétrico, las funciones de varianza toman una forma paramétrica y describen explícitamente la relación entre la varianza y la media de una cantidad aleatoria. En un entorno no paramétrico, se supone que la función de varianza es una función suave .

Intuición

En un contexto de modelo de regresión, el objetivo es establecer si existe o no una relación entre una variable de respuesta y un conjunto de variables predictoras. Además, si existe una relación, el objetivo es poder describir esta relación lo mejor posible. Un supuesto principal en la regresión lineal es la varianza constante u (homocedasticidad), lo que significa que diferentes variables de respuesta tienen la misma varianza en sus errores, en cada nivel predictor. Este supuesto funciona bien cuando la variable de respuesta y la variable predictora son conjuntamente normales . Como veremos más adelante, la función de varianza en el contexto Normal es constante; sin embargo, debemos encontrar una manera de cuantificar la heterocedasticidad (varianza no constante) en ausencia de Normalidad conjunta.

Cuando es probable que la respuesta siga una distribución que sea miembro de la familia exponencial, puede ser más apropiado utilizar un modelo lineal generalizado y, además, cuando no deseamos imponer un modelo paramétrico a nuestros datos, puede resultar útil un enfoque de regresión no paramétrica . La importancia de poder modelar la varianza como una función de la media radica en una mejor inferencia (en un entorno paramétrico) y una estimación de la función de regresión en general, para cualquier entorno.

Las funciones de varianza desempeñan un papel muy importante en la estimación e inferencia de parámetros. En general, la estimación de máxima verosimilitud requiere que se defina una función de verosimilitud. Este requisito implica que primero se debe especificar la distribución de las variables de respuesta observadas. Sin embargo, para definir una cuasi-verosimilitud, solo se necesita especificar una relación entre la media y la varianza de las observaciones para luego poder utilizar la función de cuasi-verosimilitud para la estimación. ^{[3] La estimación} de cuasi-verosimilitud es particularmente útil cuando hay sobredispersión . La sobredispersión ocurre cuando hay más variabilidad en los datos de la que debería esperarse de acuerdo con la distribución asumida de los datos.

En resumen, para garantizar una inferencia eficiente de los parámetros de regresión y de la función de regresión, se debe tener en cuenta la heterocedasticidad. Las funciones de varianza cuantifican la relación entre la varianza y la media de los datos observados y, por lo tanto, desempeñan un papel importante en la estimación y la inferencia de la regresión.

Tipos

La función de varianza y sus aplicaciones aparecen en muchas áreas del análisis estadístico. Un uso muy importante de esta función es en el marco de los modelos lineales generalizados y la regresión no paramétrica .

Modelo lineal generalizado

Cuando se ha especificado un miembro de la familia exponencial , la función de varianza se puede derivar fácilmente. ^{[4] : 29} Se presenta la forma general de la función de varianza en el contexto de la familia exponencial, así como formas específicas para Normal, Bernoulli, Poisson y Gamma. Además, describimos las aplicaciones y el uso de las funciones de varianza en la estimación de máxima verosimilitud y la estimación de cuasi-verosimilitud.

Derivación

El modelo lineal generalizado (MLG) es una generalización del análisis de regresión ordinaria que se extiende a cualquier miembro de la familia exponencial . Es particularmente útil cuando la variable de respuesta es categórica, binaria o está sujeta a una restricción (por ejemplo, solo las respuestas positivas tienen sentido). En esta página se incluye un resumen rápido de los componentes de un MLG, pero para obtener más detalles e información, consulte la página sobre modelos lineales generalizados .

Un GLM consta de tres ingredientes principales:

1. Componente aleatorio: una distribución de y de la familia exponencial, ${\displaystyle E[y\mid X]=\mu }$

2. Predictor lineal: ${\displaystyle \eta =XB=\sum _{j=1}^{p}X_{ij}^{T}B_{j}}$

3. Función de enlace: ${\displaystyle \eta =g(\mu ),\mu =g^{-1}(\eta )}$

Primero es importante derivar un par de propiedades clave de la familia exponencial.

Cualquier variable aleatoria de la familia exponencial tiene una función de densidad de probabilidad de la forma, ${\displaystyle {\textit {y}}}$

${\displaystyle f(y,\theta ,\phi )=\exp \left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)}$

con log-verosimilitud,

${\displaystyle \ell (\theta ,y,\phi )=\log(f(y,\theta ,\phi ))={\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )}$

Aquí, es el parámetro canónico y el parámetro de interés, y es un parámetro molesto que desempeña un papel en la varianza. Utilizamos las identidades de Bartlett para derivar una expresión general para la función de varianza . El primer y segundo resultado de Bartlett aseguran que, en condiciones adecuadas (véase la regla integral de Leibniz ), para una función de densidad dependiente de , ${\displaystyle \theta }$ ${\displaystyle \phi }$ ${\displaystyle \theta ,f_{\theta }()}$

${\displaystyle \operatorname {E} _{\theta }\left[{\frac {\partial }{\partial \theta }}\log(f_{\theta }(y))\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {\partial }{\partial \theta }}\log(f_{\theta }(y))\right]+\operatorname {E} _{\theta }\left[{\frac {\partial ^{2}}{\partial \theta ^{2}}}\log(f_{\theta }(y))\right]=0}$

Estas identidades conducen a cálculos simples del valor esperado y la varianza de cualquier variable aleatoria en la familia exponencial . ${\displaystyle {\textit {y}}}$ ${\displaystyle E_{\theta }[y],Var_{\theta }[y]}$

Valor esperado de Y : Tomando la primera derivada con respecto al logaritmo de la densidad en la forma de familia exponencial descrita anteriormente, tenemos ${\displaystyle \theta }$

${\displaystyle {\frac {\partial }{\partial \theta }}\log(f(y,\theta ,\phi ))={\frac {\partial }{\partial \theta }}\left[{\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right]={\frac {y-b'(\theta )}{\phi }}}$

Luego, tomar el valor esperado y establecerlo igual a cero conduce a:

${\displaystyle \operatorname {E} _{\theta }\left[{\frac {y-b'(\theta )}{\phi }}\right]={\frac {\operatorname {E} _{\theta }[y]-b'(\theta )}{\phi }}=0}$

${\displaystyle \operatorname {E} _{\theta }[y]=b'(\theta )}$

Varianza de Y: Para calcular la varianza utilizamos la segunda identidad de Bartlett,

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {\partial }{\partial \theta }}\left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)\right]+\operatorname {E} _{\theta }\left[{\frac {\partial ^{2}}{\partial \theta ^{2}}}\left({\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )\right)\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[{\frac {y-b'(\theta )}{\phi }}\right]+\operatorname {E} _{\theta }\left[{\frac {-b''(\theta )}{\phi }}\right]=0}$

${\displaystyle \operatorname {Var} _{\theta }\left[y\right]=b''(\theta )\phi }$

Ahora tenemos una relación entre y , es decir ${\displaystyle \mu }$ ${\displaystyle \theta }$

${\displaystyle \mu =b'(\theta )}$y , lo que permite una relación entre y la varianza, ${\displaystyle \theta =b'^{-1}(\mu )}$ ${\displaystyle \mu }$

${\displaystyle V(\theta )=b''(\theta )={\text{the part of the variance that depends on }}\theta }$

${\displaystyle \operatorname {V} (\mu )=b''(b'^{-1}(\mu )).\,}$

Tenga en cuenta que, dado que , entonces es invertible. Derivamos la función de varianza para algunas distribuciones comunes. ${\displaystyle \operatorname {Var} _{\theta }\left[y\right]>0,b''(\theta )>0}$ ${\displaystyle b':\theta \rightarrow \mu }$

Ejemplo – normal

La distribución normal es un caso especial en el que la función de varianza es constante. Pongamos entonces la función de densidad de y en la forma de la familia exponencial descrita anteriormente: ${\displaystyle y\sim N(\mu ,\sigma ^{2})}$

${\displaystyle f(y)=\exp \left({\frac {y\mu -{\frac {\mu ^{2}}{2}}}{\sigma ^{2}}}-{\frac {y^{2}}{2\sigma ^{2}}}-{\frac {1}{2}}\ln {2\pi \sigma ^{2}}\right)}$

dónde

${\displaystyle \theta =\mu ,}$

${\displaystyle b(\theta )={\frac {\mu ^{2}}{2}},}$

${\displaystyle \phi =\sigma ^{2},}$

${\displaystyle c(y,\phi )=-{\frac {y^{2}}{2\sigma ^{2}}}-{\frac {1}{2}}\ln {2\pi \sigma ^{2}}}$

Para calcular la función de varianza , primero la expresamos como una función de . Luego la transformamos en una función de ${\displaystyle V(\mu )}$ ${\displaystyle \theta }$ ${\displaystyle \mu }$ ${\displaystyle V(\theta )}$ ${\displaystyle \mu }$

${\displaystyle \theta =\mu }$

${\displaystyle b'(\theta )=\theta =\operatorname {E} [y]=\mu }$

${\displaystyle V(\theta )=b''(\theta )=1}$

Por lo tanto, la función de varianza es constante.

Ejemplo – Bernoulli

Sea , entonces expresamos la densidad de la distribución de Bernoulli en forma de familia exponencial, ${\displaystyle y\sim {\text{Bernoulli}}(p)}$

${\displaystyle f(y)=\exp \left(y\ln {\frac {p}{1-p}}+\ln(1-p)\right)}$

${\displaystyle \theta =\ln {\frac {p}{1-p}}=}$ logit (p), lo que nos da expit ${\displaystyle p={\frac {e^{\theta }}{1+e^{\theta }}}=}$ ${\displaystyle (\theta )}$

${\displaystyle b(\theta )=\ln(1+e^{\theta })}$ y

${\displaystyle b'(\theta )={\frac {e^{\theta }}{1+e^{\theta }}}=}$ expirar ${\displaystyle (\theta )=p=\mu }$

${\displaystyle b''(\theta )={\frac {e^{\theta }}{1+e^{\theta }}}-\left({\frac {e^{\theta }}{1+e^{\theta }}}\right)^{2}}$

Esto nos da

${\displaystyle V(\mu )=\mu (1-\mu )}$

Ejemplo – Poisson

Sea , entonces expresamos la densidad de la distribución de Poisson en forma de familia exponencial, ${\displaystyle y\sim {\text{Poisson}}(\lambda )}$

${\displaystyle f(y)=\exp(y\ln \lambda -\ln \lambda )}$

${\displaystyle \theta =\ln \lambda =}$lo que nos da ${\displaystyle \lambda =e^{\theta }}$

${\displaystyle b(\theta )=e^{\theta }}$ y

${\displaystyle b'(\theta )=e^{\theta }=\lambda =\mu }$

${\displaystyle b''(\theta )=e^{\theta }=\mu }$

Esto nos da

${\displaystyle V(\mu )=\mu }$

Aquí vemos la propiedad central de los datos de Poisson, que la varianza es igual a la media.

Ejemplo – Gamma

La distribución gamma y la función de densidad se pueden expresar bajo diferentes parametrizaciones. Utilizaremos la forma de la gamma con parámetros ${\displaystyle (\mu ,\nu )}$

${\displaystyle f_{\mu ,\nu }(y)={\frac {1}{\Gamma (\nu )y}}\left({\frac {\nu y}{\mu }}\right)^{\nu }e^{-{\frac {\nu y}{\mu }}}}$

Luego, en forma de familia exponencial tenemos

${\displaystyle f_{\mu ,\nu }(y)=\exp \left({\frac {-{\frac {1}{\mu }}y+\ln({\frac {1}{\mu }})}{\frac {1}{\nu }}}+\ln \left({\frac {\nu ^{\nu }y^{\nu -1}}{\Gamma (\nu )}}\right)\right)}$

${\displaystyle \theta ={\frac {-1}{\mu }}\rightarrow \mu ={\frac {-1}{\theta }}}$

${\displaystyle \phi ={\frac {1}{\nu }}}$

${\displaystyle b(\theta )=-\ln(-\theta )}$

${\displaystyle b'(\theta )={\frac {-1}{\theta }}={\frac {-1}{\frac {-1}{\mu }}}=\mu }$

${\displaystyle b''(\theta )={\frac {1}{\theta ^{2}}}=\mu ^{2}}$

Y tenemos ${\displaystyle V(\mu )=\mu ^{2}}$

Aplicación: mínimos cuadrados ponderados

Una aplicación muy importante de la función de varianza es su uso en la estimación e inferencia de parámetros cuando la variable de respuesta tiene la forma de familia exponencial requerida, así como en algunos casos en los que no lo tiene (lo que analizaremos en el apartado de cuasibiverosimilitud ). Los mínimos cuadrados ponderados (WLS) son un caso especial de mínimos cuadrados generalizados. Cada término del criterio WLS incluye un peso que determina la influencia que tiene cada observación en las estimaciones finales de los parámetros. Al igual que en los mínimos cuadrados regulares, el objetivo es estimar los parámetros desconocidos en la función de regresión encontrando valores para las estimaciones de los parámetros que minimicen la suma de las desviaciones al cuadrado entre las respuestas observadas y la parte funcional del modelo.

Si bien el WLS supone la independencia de las observaciones, no supone la igualdad de varianzas y, por lo tanto, es una solución para la estimación de parámetros en presencia de heterocedasticidad. El teorema de Gauss-Markov y Aitken demuestran que el mejor estimador lineal insesgado (BLUE), el estimador insesgado con mínima varianza, tiene cada ponderación igual al recíproco de la varianza de la medición.

En el marco GLM, nuestro objetivo es estimar los parámetros , donde . Por lo tanto, nos gustaría minimizar y si definimos la matriz de ponderación W como ${\displaystyle \beta }$ ${\displaystyle Z=g(E[y\mid X])=X\beta }$ ${\displaystyle (Z-XB)^{T}W(Z-XB)}$

${\displaystyle \underbrace {W} _{n\times n}={\begin{bmatrix}{\frac {1}{\phi V(\mu _{1})g'(\mu _{1})^{2}}}&0&\cdots &0&0\\0&{\frac {1}{\phi V(\mu _{2})g'(\mu _{2})^{2}}}&0&\cdots &0\\\vdots &\vdots &\vdots &\vdots &0\\\vdots &\vdots &\vdots &\vdots &0\\0&\cdots &\cdots &0&{\frac {1}{\phi V(\mu _{n})g'(\mu _{n})^{2}}}\end{bmatrix}},}$

donde se definen en la sección anterior, permite la estimación iterativamente reponderada por mínimos cuadrados (IRLS) de los parámetros. Consulte la sección sobre mínimos cuadrados reponderados iterativamente para obtener más información y derivaciones. ${\displaystyle \phi ,V(\mu ),g(\mu )}$

Además, es importante tener en cuenta que cuando la matriz de ponderación tiene la forma descrita aquí, al minimizar la expresión también se minimiza la distancia de Pearson. Consulte Correlación de distancias para obtener más información. ${\displaystyle (Z-XB)^{T}W(Z-XB)}$

La matriz W queda fuera de las ecuaciones de estimación para la estimación de . La estimación de máxima verosimilitud para cada parámetro , requiere ${\displaystyle \beta }$ ${\displaystyle \beta _{r},1\leq r\leq p}$

${\displaystyle \sum _{i=1}^{n}{\frac {\partial l_{i}}{\partial \beta _{r}}}=0}$, donde es la verosimilitud logarítmica. ${\displaystyle \operatorname {l} (\theta ,y,\phi )=\log(\operatorname {f} (y,\theta ,\phi ))={\frac {y\theta -b(\theta )}{\phi }}-c(y,\phi )}$

Mirando una sola observación tenemos,

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}={\frac {\partial l}{\partial \theta }}{\frac {\partial \theta }{\partial \mu }}{\frac {\partial \mu }{\partial \eta }}{\frac {\partial \eta }{\partial \beta _{r}}}}$

${\displaystyle {\frac {\partial \eta }{\partial \beta _{r}}}=x_{r}}$

${\displaystyle {\frac {\partial l}{\partial \theta }}={\frac {y-b'(\theta )}{\phi }}={\frac {y-\mu }{\phi }}}$

${\displaystyle {\frac {\partial \theta }{\partial \mu }}={\frac {\partial b'^{-1}(\mu )}{\mu }}={\frac {1}{b''(b'(\mu ))}}={\frac {1}{V(\mu )}}}$

Esto nos da

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}={\frac {y-\mu }{\phi V(\mu )}}{\frac {\partial \mu }{\partial \eta }}x_{r}}$, y observando que

${\displaystyle {\frac {\partial \eta }{\partial \mu }}=g'(\mu )}$tenemos eso

${\displaystyle {\frac {\partial l}{\partial \beta _{r}}}=(y-\mu )W{\frac {\partial \eta }{\partial \mu }}x_{r}}$

La matriz hessiana se determina de manera similar y se puede demostrar que es,

${\displaystyle H=X^{T}(y-\mu )\left[{\frac {\partial }{\beta _{s}}}W{\frac {\partial }{\beta _{r}}}\right]-X^{T}WX}$

Observando que la Información de Fisher (FI),

${\displaystyle {\text{FI}}=-E[H]=X^{T}WX}$, permite una aproximación asintótica de ${\displaystyle {\hat {\beta }}}$

${\displaystyle {\hat {\beta }}\sim N_{p}(\beta ,(X^{T}WX)^{-1})}$, y por lo tanto se puede realizar la inferencia.

Aplicación – cuasibillicidad

Dado que la mayoría de las características de los GLM dependen únicamente de los dos primeros momentos de la distribución, en lugar de la distribución completa, la cuasivreverosimilitud se puede desarrollar simplemente especificando una función de enlace y una función de varianza. Es decir, necesitamos especificar

• la función de enlace, ${\displaystyle E[y]=\mu =g^{-1}(\eta )}$
• la función de varianza, , donde ${\displaystyle V(\mu )}$ ${\displaystyle \operatorname {Var} _{\theta }(y)=\sigma ^{2}V(\mu )}$

Con una función de varianza y una función de enlace especificadas, podemos desarrollar, como alternativas a la función de log-verosimilitud , la función de puntuación y la información de Fisher , una cuasi-verosimilitud , una cuasi-puntuación y la cuasi-información . Esto permite la inferencia completa de . ${\displaystyle \beta }$

Cuasi-verosimilitud (QL)

Aunque se denomina cuasialogabilidad , en realidad es una cuasilogabilidad . La LC para una observación es

${\displaystyle Q_{i}(\mu _{i},y_{i})=\int _{y_{i}}^{\mu _{i}}{\frac {y_{i}-t}{\sigma ^{2}V(t)}}\,dt}$

Y por lo tanto el QL para todas las n observaciones es

${\displaystyle Q(\mu ,y)=\sum _{i=1}^{n}Q_{i}(\mu _{i},y_{i})=\sum _{i=1}^{n}\int _{y_{i}}^{\mu _{i}}{\frac {y-t}{\sigma ^{2}V(t)}}\,dt}$

Del QL tenemos el quasi-score

Cuasi-puntuación (QS)

Recordemos que la función de puntuación , U , para datos con log-verosimilitud es ${\displaystyle \operatorname {l} (\mu \mid y)}$

${\displaystyle U={\frac {\partial l}{d\mu }}.}$

Obtenemos el quasi-score de manera idéntica,

${\displaystyle U={\frac {y-\mu }{\sigma ^{2}V(\mu )}}}$

Observando que, para una observación, la puntuación es

${\displaystyle {\frac {\partial Q}{\partial \mu }}={\frac {y-\mu }{\sigma ^{2}V(\mu )}}}$

Las dos primeras ecuaciones de Bartlett se satisfacen para la cuasi-puntuación, es decir

${\displaystyle E[U]=0}$

y

${\displaystyle \operatorname {Cov} (U)+E\left[{\frac {\partial U}{\partial \mu }}\right]=0.}$

Además, la cuasipuntuación es lineal en y .

En última instancia, el objetivo es encontrar información sobre los parámetros de interés . Tanto el QS como el QL son en realidad funciones de . Recordemos, , y , por lo tanto, ${\displaystyle \beta }$ ${\displaystyle \beta }$ ${\displaystyle \mu =g^{-1}(\eta )}$ ${\displaystyle \eta =X\beta }$

${\displaystyle \mu =g^{-1}(X\beta ).}$

Cuasi-información (QI)

La cuasiinformación es similar a la información de Fisher .

${\displaystyle i_{b}=-\operatorname {E} \left[{\frac {\partial U}{\partial \beta }}\right]}$

QL, QS, QI como funciones de ${\displaystyle \beta }$

El QL, QS y QI proporcionan los componentes básicos para la inferencia sobre los parámetros de interés y, por lo tanto, es importante expresar el QL, QS y QI como funciones de . ${\displaystyle \beta }$

Recordando nuevamente que , derivamos las expresiones para QL, QS y QI parametrizadas bajo . ${\displaystyle \mu =g^{-1}(X\beta )}$ ${\displaystyle \beta }$

Cuasi-verosimilitud en , ${\displaystyle \beta }$

${\displaystyle Q(\beta ,y)=\int _{y}^{\mu (\beta )}{\frac {y-t}{\sigma ^{2}V(t)}}\,dt}$

El QS en función de es por lo tanto ${\displaystyle \beta }$

${\displaystyle U_{j}(\beta _{j})={\frac {\partial }{\partial \beta _{j}}}Q(\beta ,y)=\sum _{i=1}^{n}{\frac {\partial \mu _{i}}{\partial \beta _{j}}}{\frac {y_{i}-\mu _{i}(\beta _{j})}{\sigma ^{2}V(\mu _{i})}}}$

${\displaystyle U(\beta )={\begin{bmatrix}U_{1}(\beta )\\U_{2}(\beta )\\\vdots \\\vdots \\U_{p}(\beta )\end{bmatrix}}=D^{T}V^{-1}{\frac {(y-\mu )}{\sigma ^{2}}}}$

Dónde,

${\displaystyle \underbrace {D} _{n\times p}={\begin{bmatrix}{\frac {\partial \mu _{1}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{1}}{\partial \beta _{p}}}\\{\frac {\partial \mu _{2}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{2}}{\partial \beta _{p}}}\\\vdots \\\vdots \\{\frac {\partial \mu _{m}}{\partial \beta _{1}}}&\cdots &\cdots &{\frac {\partial \mu _{m}}{\partial \beta _{p}}}\end{bmatrix}}\underbrace {V} _{n\times n}=\operatorname {diag} (V(\mu _{1}),V(\mu _{2}),\ldots ,\ldots ,V(\mu _{n}))}$

La matriz de cuasiinformación en es, ${\displaystyle \beta }$

${\displaystyle i_{b}=-{\frac {\partial U}{\partial \beta }}=\operatorname {Cov} (U(\beta ))={\frac {D^{T}V^{-1}D}{\sigma ^{2}}}}$

La obtención de la función de puntuación y la información de permite la estimación y la inferencia de parámetros de manera similar a la descrita en Aplicación: mínimos cuadrados ponderados. ${\displaystyle \beta }$

Análisis de regresión no paramétrica

Diagrama de dispersión de los años en las grandes ligas en función del salario (x$1000). La línea es la tendencia en la media. El gráfico demuestra que la varianza no es constante.

Varianza condicional suavizada frente a la media condicional suavizada. La forma cuadrática es indicativa de la distribución gamma. La función de varianza de una gamma es V( ) = ${\displaystyle \mu }$ ${\displaystyle \mu ^{2}}$

La estimación no paramétrica de la función de varianza y su importancia se ha discutido ampliamente en la literatura ^{[5] [6] [7]} En el análisis de regresión no paramétrica , el objetivo es expresar el valor esperado de su variable de respuesta ( y ) como una función de sus predictores ( X ). Es decir, buscamos estimar una función media , sin asumir una forma paramétrica. Hay muchas formas de métodos de suavizado no paramétrico para ayudar a estimar la función . Un enfoque interesante es mirar también una función de varianza no paramétrica , . Una función de varianza no paramétrica permite mirar la función media en relación con la función de varianza y notar patrones en los datos. ${\displaystyle g(x)=\operatorname {E} [y\mid X=x]}$ ${\displaystyle g(x)}$ ${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)}$

${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)=\operatorname {E} [y^{2}\mid X=x]-\left[\operatorname {E} [y\mid X=x]\right]^{2}}$

En las imágenes de la derecha se detalla un ejemplo. El objetivo del proyecto era determinar (entre otras cosas) si el predictor, número de años en las ligas mayores (béisbol), tenía o no un efecto en la respuesta, salario , que ganaba un jugador. Un diagrama de dispersión inicial de los datos indica que hay heterocedasticidad en los datos, ya que la varianza no es constante en cada nivel del predictor. Debido a que podemos detectar visualmente la varianza no constante, ahora resulta útil trazar y observar si la forma es indicativa de alguna distribución conocida. Se puede estimar y utilizando un método de suavizado general . El gráfico de la función de varianza suavizada no paramétrica puede dar al investigador una idea de la relación entre la varianza y la media. La imagen de la derecha indica una relación cuadrática entre la media y la varianza. Como vimos anteriormente, la función de varianza Gamma es cuadrática en la media. ${\displaystyle g_{v}(x)=\operatorname {Var} (Y\mid X=x)=\operatorname {E} [y^{2}\mid X=x]-\left[\operatorname {E} [y\mid X=x]\right]^{2}}$ ${\displaystyle \operatorname {E} [y^{2}\mid X=x]}$ ${\displaystyle \left[\operatorname {E} [y\mid X=x]\right]^{2}}$

Notas

1. Muller y Zhao (1995). "Sobre un modelo de función de varianza semiparamétrica y una prueba de heterocedasticidad". Anales de Estadística . 23 (3): 946–967. doi : 10.1214/aos/1176324630 . JSTOR  2242430.
2. Muller, Stadtmuller y Yao (2006). "Procesos de varianza funcional". Revista de la Asociación Estadounidense de Estadística . 101 (475): 1007–1018. doi :10.1198/016214506000000186. JSTOR  27590778. S2CID  13712496.
3. Wedderburn, RWM (1974). "Funciones de cuasibillicidad, modelos lineales generalizados y el método de Gauss-Newton". Biometrika . 61 (3): 439–447. doi :10.1093/biomet/61.3.439. JSTOR  2334725.
4. McCullagh, Peter; Nelder, John (1989). Modelos lineales generalizados (segunda edición). Londres: Chapman and Hall. ISBN 0-412-31760-5.
5. Muller y StadtMuller (1987). "Estimación de heteroscedasticidad en análisis de regresión". Anales de estadística . 15 (2): 610–625. doi : 10.1214/aos/1176350364 . JSTOR  2241329.
6. Cai y Wang, T.; Wang, Lie (2008). "Estimación de la función de varianza adaptativa en regresión no paramétrica heterocedástica". Anales de estadística . 36 (5): 2025–2054. arXiv : 0810.4780 . Código Bibliográfico :2008arXiv0810.4780C. doi :10.1214/07-AOS509. JSTOR  2546470. S2CID  9184727.
7. Rice y Silverman (1991). "Estimación de la estructura de media y covarianza de forma no paramétrica cuando los datos son curvas". Journal of the Royal Statistical Society . 53 (1): 233–243. JSTOR  2345738.

Referencias

• McCullagh, Peter ; Nelder, John (1989). Modelos lineales generalizados (segunda edición). Londres: Chapman and Hall. ISBN 0-412-31760-5.
• Henrik Madsen y Poul Thyregod (2011). Introducción a los modelos lineales generales y generalizados . Chapman & Hall/CRC. ISBN 978-1-4200-9155-7.

Enlaces externos

• Medios relacionados con Función de varianza en Wikimedia Commons