Teorema del límite central de la cadena de Markov

En la teoría matemática de los procesos aleatorios , el teorema del límite central de la cadena de Markov tiene una conclusión algo similar en su forma a la del teorema del límite central (TLC) clásico de la teoría de la probabilidad, pero la cantidad del papel que desempeña la varianza en el TLC clásico tiene una definición más complicada. Véase también la forma general de la identidad de Bienaymé .

Declaración

Supongamos que:

• la secuencia de elementos aleatorios de algún conjunto es una cadena de Markov que tiene una distribución de probabilidad estacionaria ; y ${\textstyle X_{1},X_{2},X_{3},\ldots }$
• La distribución inicial del proceso, es decir, la distribución de , es la distribución estacionaria, de modo que se distribuyen de manera idéntica. En el teorema clásico del límite central, se supondría que estas variables aleatorias son independientes , pero aquí solo tenemos la suposición más débil de que el proceso tiene la propiedad de Markov ; y ${\textstyle X_{1}}$ ${\textstyle X_{1},X_{2},X_{3},\ldots }$
• ${\textstyle g}$es alguna función de valor real ( medible ) para la cual ${\textstyle \operatorname {var} (g(X_{1}))<+\infty .}$

Ahora sea ^{[1] [2] [3]}

${\displaystyle {\begin{aligned}\mu &=\operatorname {E} (g(X_{1})),\\{\widehat {\mu }}_{n}&={\frac {1}{n}}\sum _{k=1}^{n}g(X_{k})\\\sigma ^{2}&:=\lim _{n\to \infty }\operatorname {var} ({\sqrt {n}}{\widehat {\mu }}_{n})=\lim _{n\to \infty }n\operatorname {var} ({\widehat {\mu }}_{n})=\operatorname {var} (g(X_{1}))+2\sum _{k=1}^{\infty }\operatorname {cov} (g(X_{1}),g(X_{1+k})).\end{aligned}}}$

Entonces como tenemos ^[4] ${\textstyle n\to \infty ,}$

${\displaystyle {\sqrt {n}}({\hat {\mu }}_{n}-\mu )\ {\xrightarrow {\mathcal {D}}}\ {\text{Normal}}(0,\sigma ^{2}),}$

donde la flecha decorada indica convergencia en la distribución .

Escenario de Montecarlo

El teorema del límite central de la cadena de Markov se puede garantizar para los funcionales de las cadenas de Markov del espacio de estados general bajo ciertas condiciones. En particular, esto se puede hacer con un enfoque en configuraciones de Monte Carlo. Un ejemplo de la aplicación en una configuración MCMC (Markov Chain Monte Carlo) es el siguiente:

Consideremos un modelo simple de esferas duras en una cuadrícula. Supongamos que . Una configuración adecuada en consiste en colorear cada punto de negro o blanco de tal manera que no haya dos puntos adyacentes blancos. Sea , el conjunto de todas las configuraciones adecuadas en , el número total de configuraciones adecuadas y π la distribución uniforme en de modo que cada configuración adecuada sea igualmente probable. Supongamos que nuestro objetivo es calcular el número típico de puntos blancos en una configuración adecuada; es decir, si es el número de puntos blancos en entonces queremos el valor de ${\displaystyle X=\{1,\ldots ,n_{1}\}\times \{1,\ldots ,n_{2}\}\subseteq Z^{2}}$ ${\displaystyle X}$ ${\displaystyle \chi }$ ${\displaystyle X}$ ${\displaystyle N_{\chi }(n_{1},n_{2})}$ ${\displaystyle \chi }$ ${\displaystyle W(x)}$ ${\displaystyle x\in \chi }$

${\displaystyle E_{\pi }W=\sum _{x\in \chi }{\frac {W(x)}{N_{\chi }{\bigl (}n_{1},n_{2}{\bigr )}}}}$

Si y son incluso moderadamente grandes, entonces tendremos que recurrir a una aproximación a . Considere la siguiente cadena de Markov en . Fije y establezca donde es una configuración propia arbitraria. Elija aleatoriamente un punto y dibuje de forma independiente . Si y todos los puntos adyacentes son negros, coloree de blanco dejando todos los demás puntos solos. De lo contrario, coloree de negro y deje todos los demás puntos solos. Llamemos a la configuración resultante . Continuando de esta manera, se obtiene una cadena de Markov ergódica de Harris que tiene como distribución invariante. Ahora es una cuestión sencilla de estimar con . Además, dado que es finito (aunque potencialmente grande), es bien sabido que convergerá exponencialmente rápido a lo que implica que una CLT se cumple para . ${\displaystyle n_{1}}$ ${\displaystyle n_{2}}$ ${\displaystyle E_{\pi }W}$ ${\displaystyle \chi }$ ${\displaystyle p\in (0,1)}$ ${\displaystyle X_{1}=x_{1}}$ ${\displaystyle x_{1}\in \chi }$ ${\displaystyle (x,y)\in X}$ ${\displaystyle U\sim \mathrm {Uniform} (0,1)}$ ${\displaystyle u\leq p}$ ${\displaystyle (x,y)}$ ${\displaystyle (x,y)}$ ${\displaystyle X_{1}}$ ${\displaystyle \{X_{1},X_{2},X_{3},\ldots \}}$ ${\displaystyle \pi }$ ${\displaystyle E_{\pi }W}$ ${\displaystyle {\overline {w_{n}}}=\sum _{i=1}^{n}W(X_{i})/n}$ ${\displaystyle \chi }$ ${\displaystyle X}$ ${\displaystyle \pi }$ ${\displaystyle {\overline {w_{n}}}}$

Trascendencia

No tener en cuenta los términos adicionales en la varianza que surgen de las correlaciones (por ejemplo, correlaciones seriales en simulaciones de Monte Carlo de cadenas de Markov) puede generar el problema de pseudorreplicación al calcular, por ejemplo, los intervalos de confianza para la media de la muestra .

Referencias

1. Sobre el teorema del límite central de la cadena de Markov, Galin L. Jones, https://arxiv.org/pdf/math/0409112.pdf
2. Notas de la clase de Monte Carlo sobre cadenas de Markov Charles J. Geyer https://www.stat.umn.edu/geyer/f05/8931/n1998.pdf página 9
3. Nótese que la ecuación para comienza con la identidad de Bienaymé y luego asume que es la suma de Cesàro , ver Greyer, Markov Chain Monte Carlo Lecture Notes https://www.stat.umn.edu/geyer/f05/8931/n1998.pdf página 9 ${\displaystyle \sigma ^{2}}$ ${\displaystyle \lim _{n\to \infty }\sum _{k=1}^{n}{\frac {(n-k)}{n}}\operatorname {cov} (g(X_{1}),g(X_{1+k}))\approx \lim _{n\to \infty }\sum _{k=1}^{n}\operatorname {cov} (g(X_{1}),g(X_{1+k}))\to \sum _{k=1}^{\infty }\operatorname {cov} (g(X_{1}),g(X_{1+k}))}$
4. Geyer, Charles J. (2011). Introducción al método Monte Carlo de cadenas de Markov. En Handbook of MarkovChain Monte Carlo . Editado por SP Brooks, AE Gelman, GL Jones y XL Meng. Chapman & Hall/CRC, Boca Raton, FL, Sección 1.8. http://www.mcmchandbook.net/HandbookChapter1.pdf

Fuentes

• Gordin, MI y Lifšic, BA (1978). "Teorema del límite central para procesos estacionarios de Markov". Soviet Mathematics, Doklady , 19 , 392–394. (Traducción al inglés del original en ruso).
• Geyer, Charles J. (2011). "Introducción a MCMC". En Handbook of Markov Chain Monte Carlo , editado por SP Brooks, AE Gelman, GL Jones y XL Meng. Chapman & Hall/CRC, Boca Raton, págs. 3–48.