Distribución gamma inversa normal

En teoría de probabilidad y estadística , la distribución gamma inversa normal (o distribución gamma inversa gaussiana ) es una familia de cuatro parámetros de distribuciones de probabilidad continuas multivariadas . Es la distribución conjugada previa de una distribución normal con media y varianza desconocidas .

Definición

Suponer

${\displaystyle x\mid \sigma ^{2},\mu ,\lambda \sim \mathrm {N} (\mu ,\sigma ^{2}/\lambda )\,\!}$

tiene una distribución normal con media y varianza , donde ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}/\lambda }$

${\displaystyle \sigma ^{2}\mid \alpha ,\beta \sim \Gamma ^{-1}(\alpha ,\beta )\!}$

tiene una distribución gamma inversa . Entonces tiene una distribución gamma inversa normal, denotada como ${\displaystyle (x,\sigma ^{2})}$

${\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}$

( también se utiliza en lugar de ) ${\displaystyle {\text{NIG}}}$ ${\displaystyle {\text{N-}}\Gamma ^{-1}.}$

La distribución normal-inversa-Wishart es una generalización de la distribución normal-inversa-gamma que se define sobre variables aleatorias multivariadas.

Caracterización

Función de densidad de probabilidad

${\displaystyle f(x,\sigma ^{2}\mid \mu ,\lambda ,\alpha ,\beta )={\frac {\sqrt {\lambda }}{\sigma {\sqrt {2\pi }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +\lambda (x-\mu )^{2}}{2\sigma ^{2}}}\right)}$

Para la forma multivariada donde es un vector aleatorio, ${\displaystyle \mathbf {x} }$ ${\displaystyle k\times 1}$

${\displaystyle f(\mathbf {x} ,\sigma ^{2}\mid \mu ,\mathbf {V} ^{-1},\alpha ,\beta )=|\mathbf {V} |^{-1/2}{(2\pi )^{-k/2}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1+k/2}\exp \left(-{\frac {2\beta +(\mathbf {x} -{\boldsymbol {\mu }})^{T}\mathbf {V} ^{-1}(\mathbf {x} -{\boldsymbol {\mu }})}{2\sigma ^{2}}}\right).}$

donde es el determinante de la matriz . Nótese cómo esta última ecuación se reduce a la primera forma si es así que son escalares . ${\displaystyle |\mathbf {V} |}$ ${\displaystyle k\times k}$ ${\displaystyle \mathbf {V} }$ ${\displaystyle k=1}$ ${\displaystyle \mathbf {x} ,\mathbf {V} ,{\boldsymbol {\mu }}}$

Parametrización alternativa

También es posible dejarlo en cuyo caso el pdf se convierte en ${\displaystyle \gamma =1/\lambda }$

${\displaystyle f(x,\sigma ^{2}\mid \mu ,\gamma ,\alpha ,\beta )={\frac {1}{\sigma {\sqrt {2\pi \gamma }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\gamma \beta +(x-\mu )^{2}}{2\gamma \sigma ^{2}}}\right)}$

En la forma multivariada, el cambio correspondiente sería considerar la matriz de covarianza en lugar de su inversa como parámetro. ${\displaystyle \mathbf {V} }$ ${\displaystyle \mathbf {V} ^{-1}}$

Función de distribución acumulativa

${\displaystyle F(x,\sigma ^{2}\mid \mu ,\lambda ,\alpha ,\beta )={\frac {e^{-{\frac {\beta }{\sigma ^{2}}}}\left({\frac {\beta }{\sigma ^{2}}}\right)^{\alpha }\left(\operatorname {erf} \left({\frac {{\sqrt {\lambda }}(x-\mu )}{{\sqrt {2}}\sigma }}\right)+1\right)}{2\sigma ^{2}\Gamma (\alpha )}}}$

Propiedades

Distribuciones marginales

Dado lo anterior, por sí solo se sigue una distribución gamma inversa : ${\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}$ ${\displaystyle \sigma ^{2}}$

${\displaystyle \sigma ^{2}\sim \Gamma ^{-1}(\alpha ,\beta )\!}$

mientras que sigue una distribución t con grados de libertad. ^[1] ${\displaystyle {\sqrt {\frac {\alpha \lambda }{\beta }}}(x-\mu )}$ ${\displaystyle 2\alpha }$

Prueba de ${\displaystyle \lambda =1}$

Para la función de densidad de probabilidad es ${\displaystyle \lambda =1}$

${\displaystyle f(x,\sigma ^{2}\mid \mu ,\alpha ,\beta )={\frac {1}{\sigma {\sqrt {2\pi }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)}$

La distribución marginal sobre es ${\displaystyle x}$

${\displaystyle {\begin{aligned}f(x\mid \mu ,\alpha ,\beta )&=\int _{0}^{\infty }d\sigma ^{2}f(x,\sigma ^{2}\mid \mu ,\alpha ,\beta )\\&={\frac {1}{\sqrt {2\pi }}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\int _{0}^{\infty }d\sigma ^{2}\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1/2+1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)\end{aligned}}}$

A excepción del factor de normalización, la expresión bajo la integral coincide con la distribución gamma inversa

${\displaystyle \Gamma ^{-1}(x;a,b)={\frac {b^{a}}{\Gamma (a)}}{\frac {e^{-b/x}}{{x}^{a+1}}},}$

con , , . ${\displaystyle x=\sigma ^{2}}$ ${\displaystyle a=\alpha +1/2}$ ${\displaystyle b={\frac {2\beta +(x-\mu )^{2}}{2}}}$

Desde , y ${\displaystyle \int _{0}^{\infty }dx\Gamma ^{-1}(x;a,b)=1,\quad \int _{0}^{\infty }dxx^{-(a+1)}e^{-b/x}=\Gamma (a)b^{-a}}$

${\displaystyle \int _{0}^{\infty }d\sigma ^{2}\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1/2+1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)=\Gamma (\alpha +1/2)\left({\frac {2\beta +(x-\mu )^{2}}{2}}\right)^{-(\alpha +1/2)}}$

Sustituyendo esta expresión y factorizando la dependencia de , ${\displaystyle x}$

${\displaystyle f(x\mid \mu ,\alpha ,\beta )\propto _{x}\left(1+{\frac {(x-\mu )^{2}}{2\beta }}\right)^{-(\alpha +1/2)}.}$

La forma de la distribución t de Student generalizada es

${\displaystyle t(x|\nu ,{\hat {\mu }},{\hat {\sigma }}^{2})\propto _{x}\left(1+{\frac {1}{\nu }}{\frac {(x-{\hat {\mu }})^{2}}{{\hat {\sigma }}^{2}}}\right)^{-(\nu +1)/2}}$.

La distribución marginal sigue una distribución t con grados de libertad ${\displaystyle f(x\mid \mu ,\alpha ,\beta )}$ ${\displaystyle 2\alpha }$

${\displaystyle f(x\mid \mu ,\alpha ,\beta )=t(x|\nu =2\alpha ,{\hat {\mu }}=\mu ,{\hat {\sigma }}^{2}=\beta /\alpha )}$.

En el caso multivariado, la distribución marginal de es una distribución t multivariada : ${\displaystyle \mathbf {x} }$

${\displaystyle \mathbf {x} \sim t_{2\alpha }({\boldsymbol {\mu }},{\frac {\beta }{\alpha }}\mathbf {V} )\!}$

Suma

Escalada

Suponer

${\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}$

Entonces para , ${\displaystyle c>0}$

${\displaystyle (cx,c\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(c\mu ,\lambda /c,\alpha ,c\beta )\!.}$

Demostración: Para demostrar esto, supongamos y fijemos . Definiendo , observemos que la PDF de la variable aleatoria evaluada en está dada por multiplicada por la PDF de una variable aleatoria evaluada en . Por lo tanto, la PDF de evaluada en está dada por : ${\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )}$ ${\displaystyle c>0}$ ${\displaystyle Y=(Y_{1},Y_{2})=(cx,c\sigma ^{2})}$ ${\displaystyle Y}$ ${\displaystyle (y_{1},y_{2})}$ ${\displaystyle 1/c^{2}}$ ${\displaystyle {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )}$ ${\displaystyle (y_{1}/c,y_{2}/c)}$ ${\displaystyle Y}$ ${\displaystyle (y_{1},y_{2})}$ ${\displaystyle f_{Y}(y_{1},y_{2})={\frac {1}{c^{2}}}{\frac {\sqrt {\lambda }}{\sqrt {2\pi y_{2}/c}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{y_{2}/c}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +\lambda (y_{1}/c-\mu )^{2}}{2y_{2}/c}}\right)={\frac {\sqrt {\lambda /c}}{\sqrt {2\pi y_{2}}}}\,{\frac {(c\beta )^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{y_{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2c\beta +(\lambda /c)\,(y_{1}-c\mu )^{2}}{2y_{2}}}\right).\!}$

La expresión de la derecha es la PDF para una variable aleatoria evaluada en , que completa la prueba. ${\displaystyle {\text{N-}}\Gamma ^{-1}(c\mu ,\lambda /c,\alpha ,c\beta )}$ ${\displaystyle (y_{1},y_{2})}$

Familia exponencial

Las distribuciones normal-inversa-gamma forman una familia exponencial con parámetros naturales , , , y y estadísticas suficientes , , , y . ${\displaystyle \textstyle \theta _{1}={\frac {-\lambda }{2}}}$ ${\displaystyle \textstyle \theta _{2}=\lambda \mu }$ ${\displaystyle \textstyle \theta _{3}=\alpha }$ ${\displaystyle \textstyle \theta _{4}=-\beta +{\frac {-\lambda \mu ^{2}}{2}}}$ ${\displaystyle \textstyle T_{1}={\frac {x^{2}}{\sigma ^{2}}}}$ ${\displaystyle \textstyle T_{2}={\frac {x}{\sigma ^{2}}}}$ ${\displaystyle \textstyle T_{3}=\log {\big (}{\frac {1}{\sigma ^{2}}}{\big )}}$ ${\displaystyle \textstyle T_{4}={\frac {1}{\sigma ^{2}}}}$

Entropía de la información

Divergencia de Kullback-Leibler

Mide la diferencia entre dos distribuciones.

Estimación de máxima verosimilitud

Distribución posterior de los parámetros

Consulte los artículos sobre distribución normal-gamma y prior conjugado .

Interpretación de los parámetros

Consulte los artículos sobre distribución normal-gamma y prior conjugado .

Generación de variables aleatorias normales-inversas-gamma

La generación de variables aleatorias es sencilla:

1. Muestra de una distribución gamma inversa con parámetros y ${\displaystyle \sigma ^{2}}$ ${\displaystyle \alpha }$ ${\displaystyle \beta }$
2. Muestra de una distribución normal con media y varianza ${\displaystyle x}$ ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}/\lambda }$

Distribuciones relacionadas

• La distribución normal-gamma es la misma distribución parametrizada por la precisión en lugar de la varianza.
• Una generalización de esta distribución que permite una media multivariada y una matriz de covarianza positiva definida completamente desconocida (mientras que en la distribución multivariada inversa-gamma la matriz de covarianza se considera conocida hasta el factor de escala ) es la distribución normal-inversa-Wishart . ${\displaystyle \sigma ^{2}\mathbf {V} }$ ${\displaystyle \sigma ^{2}}$

Véase también

• Distribución de probabilidad compuesta

Referencias

1. Ramírez-Hassan, Andrés. 4.2 Familia conjugada previa a la exponencial | Introducción a la econometría bayesiana.

• Denison, David GT; Holmes, Christopher C.; Mallick, Bani K.; Smith, Adrian FM (2002) Métodos bayesianos para clasificación y regresión no lineales , Wiley. ISBN 0471490369 
• Koch, Karl-Rudolf (2007) Introducción a la estadística bayesiana (2.ª edición), Springer. ISBN 354072723X