Varianza condicional

Varianza de una variable aleatoria dado el valor de otras variables

En teoría de probabilidad y estadística , una varianza condicional es la varianza de una variable aleatoria dados los valores de una o más variables. Particularmente en econometría , la varianza condicional también se conoce como función cedástica o función cedástica . ^[1] Las varianzas condicionales son partes importantes de los modelos de heterocedasticidad condicional autorregresiva (ARCH).

Definición

La varianza condicional de una variable aleatoria Y dada otra variable aleatoria X es

${\displaystyle \operatorname {Var} (Y\mid X)=\operatorname {E} {\Big (}{\big (}Y-\operatorname {E} (Y\mid X){\big )}^{2}\;{\Big |}\;X{\Big )}.}$

La varianza condicional nos dice cuánta varianza nos queda si usamos para "predecir" Y . Aquí, como es habitual, representa la esperanza condicional de Y dado X , que, como podemos recordar, es una variable aleatoria en sí misma (una función de X , determinada hasta una probabilidad de uno). Como resultado, en sí misma es una variable aleatoria (y es una función de X ). ${\displaystyle \operatorname {E} (Y\mid X)}$ ${\displaystyle \operatorname {E} (Y\mid X)}$ ${\displaystyle \operatorname {Var} (Y\mid X)}$

Explicación, relación con los mínimos cuadrados.

Recordemos que la varianza es la desviación cuadrática esperada entre una variable aleatoria (por ejemplo, Y ) y su valor esperado. El valor esperado puede considerarse como una predicción razonable de los resultados del experimento aleatorio (en particular, el valor esperado es la mejor predicción constante cuando las predicciones se evalúan por el error cuadrático esperado de predicción). Por lo tanto, una interpretación de la varianza es que da el error cuadrático esperado de predicción más pequeño posible. Si tenemos el conocimiento de otra variable aleatoria ( X ) que podemos usar para predecir Y , potencialmente podemos usar este conocimiento para reducir el error cuadrático esperado. Como resulta, la mejor predicción de Y dado X es la expectativa condicional. En particular, para cualquier variable medible, ${\displaystyle f:\mathbb {R} \to \mathbb {R} }$

${\displaystyle {\begin{aligned}\operatorname {E} [(Y-f(X))^{2}]&=\operatorname {E} [(Y-\operatorname {E} (Y|X)\,\,+\,\,\operatorname {E} (Y|X)-f(X))^{2}]\\&=\operatorname {E} [\operatorname {E} \{(Y-\operatorname {E} (Y|X)\,\,+\,\,\operatorname {E} (Y|X)-f(X))^{2}|X\}]\\&=\operatorname {E} [\operatorname {Var} (Y|X)]+\operatorname {E} [(\operatorname {E} (Y|X)-f(X))^{2}]\,.\end{aligned}}}$

Al seleccionar , el segundo término no negativo se vuelve cero, lo que demuestra la afirmación. Aquí, la segunda igualdad utilizó la ley de la expectativa total . También vemos que la varianza condicional esperada de Y dado X aparece como el error irreducible de predecir Y dado solo el conocimiento de X . ${\displaystyle f(X)=\operatorname {E} (Y|X)}$

Casos especiales, variaciones

Condicionamiento sobre variables aleatorias discretas

Cuando X toma un número contable de valores con probabilidad positiva, es decir, es una variable aleatoria discreta , podemos introducir la varianza condicional de Y dado que X=x para cualquier x de S de la siguiente manera: ${\displaystyle S=\{x_{1},x_{2},\dots \}}$ ${\displaystyle \operatorname {Var} (Y|X=x)}$

${\displaystyle \operatorname {Var} (Y|X=x)=\operatorname {E} ((Y-\operatorname {E} (Y\mid X=x))^{2}\mid X=x)=\operatorname {E} (Y^{2}|X=x)-\operatorname {E} (Y|X=x)^{2},}$

donde recordemos que es la expectativa condicional de Z dado que X=x , que está bien definida para . Una notación alternativa para es ${\displaystyle \operatorname {E} (Z\mid X=x)}$ ${\displaystyle x\in S}$ ${\displaystyle \operatorname {Var} (Y|X=x)}$ ${\displaystyle \operatorname {Var} _{Y\mid X}(Y|x).}$

Nótese que aquí se define una constante para los posibles valores de x y, en particular, , no es una variable aleatoria. ${\displaystyle \operatorname {Var} (Y|X=x)}$ ${\displaystyle \operatorname {Var} (Y|X=x)}$

La conexión de esta definición con es la siguiente: Sea S como se indica arriba y definamos la función como . Entonces, casi con seguridad . ${\displaystyle \operatorname {Var} (Y|X)}$ ${\displaystyle v:S\to \mathbb {R} }$ ${\displaystyle v(x)=\operatorname {Var} (Y|X=x)}$ ${\displaystyle v(X)=\operatorname {Var} (Y|X)}$

Definición utilizando distribuciones condicionales

La "esperanza condicional de Y dado X=x " también se puede definir de forma más general usando la distribución condicional de Y dado X (esto existe en este caso, ya que aquí tanto X como Y son valores reales).

En particular, siendo la distribución condicional (regular) de Y dado X , es decir, (la intención es que casi con seguridad sobre el soporte de X ), podemos definir ${\displaystyle P_{Y|X}}$ ${\displaystyle P_{Y|X}}$ ${\displaystyle P_{Y|X}:{\mathcal {B}}\times \mathbb {R} \to [0,1]}$ ${\displaystyle P_{Y|X}(U,x)=P(Y\in U|X=x)}$

${\displaystyle \operatorname {Var} (Y|X=x)=\int \left(y-\int y'P_{Y|X}(dy'|x)\right)^{2}P_{Y|X}(dy|x).}$

Por supuesto, esto puede especializarse cuando Y es discreto en sí mismo (reemplazando las integrales con sumas) y también cuando existe la densidad condicional de Y dado X=x con respecto a alguna distribución subyacente.

Componentes de la varianza

La ley de varianza total dice

${\displaystyle \operatorname {Var} (Y)=\operatorname {E} (\operatorname {Var} (Y\mid X))+\operatorname {Var} (\operatorname {E} (Y\mid X)).}$

En palabras: la varianza de Y es la suma de la varianza condicional esperada de Y dado X y la varianza de la expectativa condicional de Y dado X. El primer término captura la variación que queda después de "usar X para predecir Y ", mientras que el segundo término captura la variación debido a la media de la predicción de Y debido a la aleatoriedad de X.

Véase también

• Modelo mixto
• Modelo de efectos aleatorios

Referencias

1. Spanos, Aris (1999). "Condicionamiento y regresión". Probability Theory and Statistical Inference. Nueva York: Cambridge University Press. pp. 339–356 [p. 342]. ISBN 0-521-42408-9.

Lectura adicional

• Casella, George; Berger, Roger L. (2002). Inferencia estadística (segunda edición). Wadsworth. págs. 151–52. ISBN 0-534-24312-6.