Distribución normal-Wishart

En teoría de probabilidad y estadística , la distribución normal-Wishart (o distribución Gaussiana-Wishart ) es una familia multivariante de cuatro parámetros de distribuciones de probabilidad continuas . Es la distribución conjugada previa de una distribución normal multivariante con media y matriz de precisión desconocidas (la inversa de la matriz de covarianza ). ^[1]

Definición

Suponer

${\displaystyle {\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Lambda }}\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})}$

tiene una distribución normal multivariada con media y matriz de covarianza , donde ${\displaystyle {\boldsymbol {\mu }}_{0}}$ ${\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}$

${\displaystyle {\boldsymbol {\Lambda }}|\mathbf {W} ,\nu \sim {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}$

tiene una distribución Wishart . Entonces tiene una distribución Wishart normal, denotada como ${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})}$

${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu ).}$

Caracterización

Función de densidad de probabilidad

${\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}$

Propiedades

Escalada

Distribuciones marginales

Por construcción, la distribución marginal sobre es una distribución de Wishart y la distribución condicional sobre dada es una distribución normal multivariada . La distribución marginal sobre es una distribución t multivariada . ${\displaystyle {\boldsymbol {\Lambda }}}$ ${\displaystyle {\boldsymbol {\mu }}}$ ${\displaystyle {\boldsymbol {\Lambda }}}$ ${\displaystyle {\boldsymbol {\mu }}}$

Distribución posterior de los parámetros

Después de realizar las observaciones , la distribución posterior de los parámetros es ${\displaystyle n}$ ${\displaystyle {\boldsymbol {x}}_{1},\dots ,{\boldsymbol {x}}_{n}}$

${\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{n},\lambda _{n},\mathbf {W} _{n},\nu _{n}),}$

dónde

${\displaystyle \lambda _{n}=\lambda +n,}$

${\displaystyle {\boldsymbol {\mu }}_{n}={\frac {\lambda {\boldsymbol {\mu }}_{0}+n{\boldsymbol {\bar {x}}}}{\lambda +n}},}$

${\displaystyle \nu _{n}=\nu +n,}$

${\displaystyle \mathbf {W} _{n}^{-1}=\mathbf {W} ^{-1}+\sum _{i=1}^{n}({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})^{T}+{\frac {n\lambda }{n+\lambda }}({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})^{T}.}$^[2]

Generación de variables aleatorias normales-Wishart

La generación de variables aleatorias es sencilla:

1. Muestra de una distribución Wishart con parámetros y ${\displaystyle {\boldsymbol {\Lambda }}}$ ${\displaystyle \mathbf {W} }$ ${\displaystyle \nu }$
2. Muestra de una distribución normal multivariada con media y varianza ${\displaystyle {\boldsymbol {\mu }}}$ ${\displaystyle {\boldsymbol {\mu }}_{0}}$ ${\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}$

Distribuciones relacionadas

• La distribución normal-inversa de Wishart es esencialmente la misma distribución parametrizada por la varianza en lugar de la precisión.
• La distribución normal-gamma es el equivalente unidimensional.
• La distribución normal multivariada y la distribución Wishart son las distribuciones componentes a partir de las cuales se compone esta distribución.

Notas

1. Bishop, Christopher M. (2006). Reconocimiento de patrones y aprendizaje automático. Springer Science+Business Media. Página 690.
2. Validación cruzada, https://stats.stackexchange.com/q/324925

Referencias

• Bishop, Christopher M. (2006). Reconocimiento de patrones y aprendizaje automático. Springer Science+Business Media.