Pruebas de convergencia de variables aleatorias

Variedad de pruebas proporcionadas para los diferentes tipos de convergencia de variables aleatorias

Este artículo es complementario de “ Convergencia de variables aleatorias ” y proporciona pruebas para resultados seleccionados.

Se establecerán varios resultados utilizando el lema del acrónimo : Una secuencia { X _n } converge en distribución a X si y solo si se cumple alguna de las siguientes condiciones:

1. ${\displaystyle \mathbb {E} [f(X_{n})]\to \mathbb {E} [f(X)]}$para todas las funciones continuas y acotadas ; ${\displaystyle f}$
2. ${\displaystyle \mathbb {E} [f(X_{n})]\to \mathbb {E} [f(X)]}$para todas las funciones de Lipschitz acotadas ; ${\displaystyle f}$
3. ${\displaystyle \limsup \operatorname {Pr} (X_{n}\in C)\leq \operatorname {Pr} (X\in C)}$para todos los conjuntos cerrados ; ${\displaystyle C}$

La convergencia casi seguramente implica convergencia en probabilidad.

${\displaystyle X_{n}\ {\overset {\mathrm {as} }{\rightarrow }}\ X\quad \Rightarrow \quad X_{n}\ {\overset {p}{\rightarrow }}\ X}$

Demostración: Si converge con casi seguridad, significa que el conjunto de puntos tiene medida cero. Ahora fijemos y consideremos una secuencia de conjuntos ${\displaystyle \{X_{n}\}}$ ${\displaystyle X}$ ${\displaystyle O=\{\omega \mid \lim X_{n}(\omega )\neq X(\omega )\}}$ ${\displaystyle \varepsilon >0}$

${\displaystyle A_{n}=\bigcup _{m\geq n}\left\{\left|X_{m}-X\right|>\varepsilon \right\}}$

Esta secuencia de conjuntos es decreciente ( ) hacia el conjunto ${\displaystyle A_{n}\supseteq A_{n+1}\supseteq \ldots }$

${\displaystyle A_{\infty }=\bigcap _{n\geq 1}A_{n}.}$

Las probabilidades de esta secuencia también son decrecientes, por lo que ; ahora demostraremos que este número es igual a cero. Ahora bien, para cualquier punto fuera de tenemos , lo que implica que para todos para algún . En particular, para tal el punto no estará en , y por lo tanto no estará en . Por lo tanto, y por lo tanto . ${\displaystyle \lim \operatorname {Pr} (A_{n})=\operatorname {Pr} (A_{\infty })}$ ${\displaystyle \omega }$ ${\displaystyle O}$ ${\displaystyle \lim X_{n}(\omega )=X(\omega )}$ ${\displaystyle \left|X_{n}(\omega )-X(\omega )\right|<\varepsilon }$ ${\displaystyle n\geq N}$ ${\displaystyle N}$ ${\displaystyle n}$ ${\displaystyle \omega }$ ${\displaystyle A_{n}}$ ${\displaystyle A_{\infty }}$ ${\displaystyle A_{\infty }\subseteq O}$ ${\displaystyle \operatorname {Pr} (A_{\infty })=0}$

Finalmente, por continuidad desde arriba,

${\displaystyle \operatorname {Pr} \left(|X_{n}-X|>\varepsilon \right)\leq \operatorname {Pr} (A_{n})\ {\underset {n\to \infty }{\rightarrow }}0,}$

lo que por definición significa que converge en probabilidad a . ${\displaystyle X_{n}}$ ${\displaystyle X}$

La convergencia en probabilidad no implica una convergencia casi segura en el caso discreto

Si X _n son variables aleatorias independientes que asumen el valor uno con probabilidad 1/ n y cero en caso contrario, entonces X _n converge a cero en probabilidad, pero no con casi seguridad. Esto se puede verificar utilizando los lemas de Borel-Cantelli .

La convergencia en probabilidad implica convergencia en distribución

${\displaystyle X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {d}}\ X,}$

Prueba para el caso de variables aleatorias escalares

Lema. Sean X , Y variables aleatorias, sea a un número real y ε > 0. Entonces

${\displaystyle \operatorname {Pr} (Y\leq a)\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (|Y-X|>\varepsilon ).}$

Prueba del lema:

${\displaystyle {\begin{aligned}\operatorname {Pr} (Y\leq a)&=\operatorname {Pr} (Y\leq a,\ X\leq a+\varepsilon )+\operatorname {Pr} (Y\leq a,\ X>a+\varepsilon )\\&\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (Y-X\leq a-X,\ a-X<-\varepsilon )\\&\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (Y-X<-\varepsilon )\\&\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (Y-X<-\varepsilon )+\operatorname {Pr} (Y-X>\varepsilon )\\&=\operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (|Y-X|>\varepsilon )\end{aligned}}}$

Prueba más breve del lema:

Tenemos

${\displaystyle {\begin{aligned}\{Y\leq a\}\subset \{X\leq a+\varepsilon \}\cup \{|Y-X|>\varepsilon \}\end{aligned}}}$

porque si y , entonces . Por lo tanto, por el límite de unión, ${\displaystyle Y\leq a}$ ${\displaystyle |Y-X|\leq \varepsilon }$ ${\displaystyle X\leq a+\varepsilon }$

${\displaystyle {\begin{aligned}\operatorname {Pr} (Y\leq a)\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (|Y-X|>\varepsilon ).\end{aligned}}}$

Demostración del teorema: Recordemos que para demostrar la convergencia en una distribución, se debe demostrar que la sucesión de funciones de distribución acumulativas converge a F _X en cada punto donde F _X es continua. Sea a un punto de este tipo. Para cada ε > 0, debido al lema anterior, tenemos:

${\displaystyle {\begin{aligned}\operatorname {Pr} (X_{n}\leq a)&\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} (|X_{n}-X|>\varepsilon )\\\operatorname {Pr} (X\leq a-\varepsilon )&\leq \operatorname {Pr} (X_{n}\leq a)+\operatorname {Pr} (|X_{n}-X|>\varepsilon )\end{aligned}}}$

Entonces, tenemos

${\displaystyle \operatorname {Pr} (X\leq a-\varepsilon )-\operatorname {Pr} \left(\left|X_{n}-X\right|>\varepsilon \right)\leq \operatorname {Pr} (X_{n}\leq a)\leq \operatorname {Pr} (X\leq a+\varepsilon )+\operatorname {Pr} \left(\left|X_{n}-X\right|>\varepsilon \right).}$

Tomando el límite cuando n → ∞, obtenemos:

${\displaystyle F_{X}(a-\varepsilon )\leq \lim _{n\to \infty }\operatorname {Pr} (X_{n}\leq a)\leq F_{X}(a+\varepsilon ),}$

donde F _X ( a ) = Pr( X ≤ a ) es la función de distribución acumulativa de X . Esta función es continua en a por suposición, y por lo tanto tanto F _X ( a −ε) como F _X ( a +ε) convergen a F _X ( a ) cuando ε → 0 ⁺ . Tomando este límite, obtenemos

${\displaystyle \lim _{n\to \infty }\operatorname {Pr} (X_{n}\leq a)=\operatorname {Pr} (X\leq a),}$

lo que significa que { X _n } converge a X en la distribución.

Prueba para el caso genérico

La implicación se sigue para cuando X _n es un vector aleatorio al utilizar esta propiedad que se demuestra más adelante en esta página y al tomar X _n = X en el enunciado de esa propiedad.

La convergencia en la distribución hacia una constante implica convergencia en probabilidad

${\displaystyle X_{n}\ {\xrightarrow {d}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ c,}$ siempre que c sea una constante.

Demostración: Fijemos ε > 0. Sea B _ε ( c ) la esfera abierta de radio ε alrededor del punto c , y B _ε ( c ) ^c su complemento. Entonces

${\displaystyle \operatorname {Pr} \left(|X_{n}-c|\geq \varepsilon \right)=\operatorname {Pr} \left(X_{n}\in B_{\varepsilon }(c)^{c}\right).}$

Por el lema del compendio (parte C), si X _n converge en distribución a c , entonces el limsup de la última probabilidad debe ser menor o igual que Pr( c ∈ B _ε ( c ) ^c ), que obviamente es igual a cero. Por lo tanto,

${\displaystyle {\begin{aligned}\lim _{n\to \infty }\operatorname {Pr} \left(\left|X_{n}-c\right|\geq \varepsilon \right)&\leq \limsup _{n\to \infty }\operatorname {Pr} \left(\left|X_{n}-c\right|\geq \varepsilon \right)\\&=\limsup _{n\to \infty }\operatorname {Pr} \left(X_{n}\in B_{\varepsilon }(c)^{c}\right)\\&\leq \operatorname {Pr} \left(c\in B_{\varepsilon }(c)^{c}\right)=0\end{aligned}}}$

lo que por definición significa que X _n converge a c en probabilidad.

La convergencia en probabilidad a una secuencia que converge en distribución implica convergencia a la misma distribución.

${\displaystyle |Y_{n}-X_{n}|\ {\xrightarrow {p}}\ 0,\ \ X_{n}\ {\xrightarrow {d}}\ X\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {d}}\ X}$

Demostración: Probaremos este teorema usando el lema del acrónimo, parte B. Como se requiere en ese lema, considere cualquier función acotada f (es decir, | f ( x )| ≤ M ) que también sea Lipschitz:

${\displaystyle \exists K>0,\forall x,y:\quad |f(x)-f(y)|\leq K|x-y|.}$

Tome algún ε > 0 y mayorice la expresión |E[ f ( Y _n )] − E[ f ( X _n )]| como

${\displaystyle {\begin{aligned}\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X_{n})\right]\right|&\leq \operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\right]\\&=\operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|<\varepsilon \right\}}\right]+\operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|\geq \varepsilon \right\}}\right]\\&\leq \operatorname {E} \left[K\left|Y_{n}-X_{n}\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|<\varepsilon \right\}}\right]+\operatorname {E} \left[2M\mathbf {1} _{\left\{|Y_{n}-X_{n}|\geq \varepsilon \right\}}\right]\\&\leq K\varepsilon \operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|<\varepsilon \right)+2M\operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|\geq \varepsilon \right)\\&\leq K\varepsilon +2M\operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|\geq \varepsilon \right)\end{aligned}}}$

(aquí 1 _{...} denota la función indicadora ; la expectativa de la función indicadora es igual a la probabilidad del evento correspondiente). Por lo tanto,

${\displaystyle {\begin{aligned}\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X)\right]\right|&\leq \left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X_{n})\right]\right|+\left|\operatorname {E} \left[f(X_{n})\right]-\operatorname {E} \left[f(X)\right]\right|\\&\leq K\varepsilon +2M\operatorname {Pr} \left(|Y_{n}-X_{n}|\geq \varepsilon \right)+\left|\operatorname {E} \left[f(X_{n})\right]-\operatorname {E} \left[f(X)\right]\right|.\end{aligned}}}$

Si tomamos el límite en esta expresión como n  → ∞, el segundo término tenderá a cero ya que { Y _n −X _n } converge a cero en probabilidad; y el tercer término también convergerá a cero, por el lema del acrónimo y el hecho de que X _n converge a X en distribución. Por lo tanto

${\displaystyle \lim _{n\to \infty }\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X)\right]\right|\leq K\varepsilon .}$

Como ε es arbitrario, concluimos que el límite debe ser de hecho igual a cero, y por lo tanto E[ f ( Y _n )] → E[ f ( X )], lo que nuevamente por el lema del acrónimo implica que { Y _n } converge a X en la distribución. QED.

La convergencia de una secuencia en distribución y otra a una constante implica convergencia conjunta en distribución

${\displaystyle X_{n}\ {\xrightarrow {d}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {d}}\ (X,c)}$ siempre que c sea una constante.

Prueba: Probaremos esta afirmación usando el lema del acrónimo, parte A.

Primero queremos demostrar que ( X _n , c ) converge en distribución a ( X , c ). Por el lema del compendio esto será cierto si podemos demostrar que E[ f ( X _n , c )] → E[ f ( X , c )] para cualquier función continua acotada f ( x , y ). Sea f entonces dicha función continua acotada arbitraria. Ahora consideremos la función de una sola variable g ( x ) := f ( x , c ). Obviamente esta también será acotada y continua, y por lo tanto por el lema del compendio para la secuencia { X _n } que converge en distribución a X , tendremos que E[ g ( X _n )] → E[ g ( X )]. Sin embargo, la última expresión es equivalente a “E[ f ( X _n , c )] → E[ f ( X , c )]”, y por lo tanto ahora sabemos que ( X _n , c ) converge en distribución a ( X , c ).

En segundo lugar, consideremos |( X _n , Y _n ) − ( X _n , c )| = | Y _n − c |. Esta expresión converge en probabilidad a cero porque Y _n converge en probabilidad a c . Así, hemos demostrado dos hechos:

${\displaystyle {\begin{cases}\left|(X_{n},Y_{n})-(X_{n},c)\right|\ {\xrightarrow {p}}\ 0,\\(X_{n},c)\ {\xrightarrow {d}}\ (X,c).\end{cases}}}$

Por la propiedad demostrada anteriormente, estos dos hechos implican que ( X _n , Y _n ) convergen en distribución a ( X , c ).

La convergencia de dos secuencias en probabilidad implica convergencia conjunta en probabilidad

${\displaystyle X_{n}\ {\xrightarrow {p}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {p}}\ (X,Y)}$

Prueba:

${\displaystyle {\begin{aligned}\operatorname {Pr} \left(\left|(X_{n},Y_{n})-(X,Y)\right|\geq \varepsilon \right)&\leq \operatorname {Pr} \left(|X_{n}-X|+|Y_{n}-Y|\geq \varepsilon \right)\\&\leq \operatorname {Pr} \left(|X_{n}-X|\geq \varepsilon /2\right)+\operatorname {Pr} \left(|Y_{n}-Y|\geq \varepsilon /2\right)\end{aligned}}}$

donde el último paso se sigue por el principio del palomar y la subaditividad de la medida de probabilidad. Cada una de las probabilidades del lado derecho converge a cero cuando n → ∞ por definición de la convergencia de { X _n } y { Y _n } en probabilidad a X e Y respectivamente. Tomando el límite concluimos que el lado izquierdo también converge a cero, y por lo tanto la secuencia {( X _n , Y _n )} converge en probabilidad a {( X , Y )}.

Véase también

• Convergencia de variables aleatorias

Referencias

• van der Vaart, Aad W. (1998). Estadísticas asintóticas . Nueva York: Garrick Ardis. ISBN 978-0-521-49603-2.