Teorema de Berry-Esseen

Teorema de la teoría de la probabilidad

En teoría de la probabilidad , el teorema del límite central establece que, en determinadas circunstancias, la distribución de probabilidad de la media escalada de una muestra aleatoria converge a una distribución normal a medida que el tamaño de la muestra aumenta hasta el infinito. Bajo supuestos más fuertes, el teorema de Berry-Esseen , o desigualdad de Berry-Esseen , da un resultado más cuantitativo, porque también especifica la tasa a la que tiene lugar esta convergencia al dar un límite al error máximo de aproximación entre la distribución normal y la distribución verdadera de la media de la muestra escalada. La aproximación se mide mediante la distancia de Kolmogorov-Smirnov . En el caso de muestras independientes , la tasa de convergencia es n ^−1/2 , donde n es el tamaño de la muestra y la constante se estima en términos del tercer momento absoluto normalizado .

Enunciado del teorema

Los enunciados del teorema varían, ya que fue descubierto independientemente por dos matemáticos , Andrew C. Berry (en 1941) y Carl-Gustav Esseen (1942), quienes luego, junto con otros autores, lo refinaron repetidamente durante las décadas siguientes.

Sumandos distribuidos de forma idéntica

Una versión, sacrificando un poco la generalidad en aras de la claridad, es la siguiente:

Existe una constante positiva C tal que si X ₁ , X ₂ , ..., son variables aleatorias iid con E ( X ₁ ) = 0, E( X ₁ ² ) = σ ² > 0, y E(| X ₁ | ³ ) = ρ < ∞, ^{[nota 1]} y si definimos

${\displaystyle Y_{n}={X_{1}+X_{2}+\cdots +X_{n} \over n}}$

la media de la muestra , con F _n la función de distribución acumulativa de

${\displaystyle {Y_{n}{\sqrt {n}} \over {\sigma }},}$

y Φ la función de distribución acumulativa de la distribución normal estándar , entonces para todos los x y n ,

${\displaystyle \left|F_{n}(x)-\Phi (x)\right|\leq {C\rho \over \sigma ^{3}{\sqrt {n}}}.\ \ \ \ (1)}$

Ilustración de la diferencia en las funciones de distribución acumulativa a las que se alude en el teorema.

Es decir: dada una secuencia de variables aleatorias independientes e idénticamente distribuidas , cada una con media cero y varianza positiva , si además el tercer momento absoluto es finito, entonces las funciones de distribución acumulativa de la media muestral estandarizada y la distribución normal estándar difieren (verticalmente, en un gráfico) en no más de la cantidad especificada. Nótese que el error de aproximación para todos los n (y, por lo tanto, la tasa límite de convergencia para n indefinidos suficientemente grandes) está acotado por el orden de n ^−1/2 .

Los límites superiores calculados para la constante C han disminuido notablemente a lo largo de los años, desde el valor original de 7,59 de Esseen en 1942. ^[1] La estimación C  < 0,4748 se desprende de la desigualdad

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq {0.33554(\rho +0.415\sigma ^{3}) \over \sigma ^{3}{\sqrt {n}}},}$

ya que σ ³  ≤ ρ y 0,33554 · 1,415 < 0,4748. Sin embargo, si ρ ≥ 1,286σ ³ , entonces la estimación

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq {0.3328(\rho +0.429\sigma ^{3}) \over \sigma ^{3}{\sqrt {n}}},}$

es aún más apretado. ^[2]

Esseen (1956) demostró que la constante también satisface el límite inferior

${\displaystyle C\geq {\frac {{\sqrt {10}}+3}{6{\sqrt {2\pi }}}}\approx 0.40973\approx {\frac {1}{\sqrt {2\pi }}}+0.01079.}$

Sumandos distribuidos de forma no idéntica

Sean X ₁ , X ₂ , ..., variables aleatorias independientes con E ( X _i ) = 0, E( X _i ² ) = σ _i ² > 0, y E(| X _i | ³ ) = ρ _i < ∞. Además, sea

${\displaystyle S_{n}={X_{1}+X_{2}+\cdots +X_{n} \over {\sqrt {\sigma _{1}^{2}+\sigma _{2}^{2}+\cdots +\sigma _{n}^{2}}}}}$

sea ​​la n -ésima suma parcial normalizada . Denotemos F _n como la función de distribución acumulada de S _n y Φ como la función de distribución acumulada de la distribución normal estándar . Por conveniencia denotemos

${\displaystyle {\vec {\sigma }}=(\sigma _{1},\ldots ,\sigma _{n}),\ {\vec {\rho }}=(\rho _{1},\ldots ,\rho _{n}).}$

En 1941, Andrew C. Berry demostró que para todo n existe una constante absoluta C ₁ tal que

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq C_{1}\cdot \psi _{1},\ \ \ \ (2)}$

dónde

${\displaystyle \psi _{1}=\psi _{1}{\big (}{\vec {\sigma }},{\vec {\rho }}{\big )}={\Big (}{\textstyle \sum \limits _{i=1}^{n}\sigma _{i}^{2}}{\Big )}^{-1/2}\cdot \max _{1\leq i\leq n}{\frac {\rho _{i}}{\sigma _{i}^{2}}}.}$

Independientemente, en 1942, Carl-Gustav Esseen demostró que para todo n existe una constante absoluta C ₀ tal que

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq C_{0}\cdot \psi _{0},\ \ \ \ (3)}$

dónde

${\displaystyle \psi _{0}=\psi _{0}{\big (}{\vec {\sigma }},{\vec {\rho }}{\big )}={\Big (}{\textstyle \sum \limits _{i=1}^{n}\sigma _{i}^{2}}{\Big )}^{-3/2}\cdot \sum \limits _{i=1}^{n}\rho _{i}.}$

Es fácil asegurarse de que ψ ₀ ≤ψ ₁ . Debido a esta circunstancia, la desigualdad (3) se denomina convencionalmente desigualdad de Berry-Esseen, y la cantidad ψ ₀ se denomina fracción de Lyapunov de tercer orden. Además, en el caso en que los sumandos X ₁ , ..., X _n tengan distribuciones idénticas

${\displaystyle \psi _{0}=\psi _{1}={\frac {\rho _{1}}{\sigma _{1}^{3}{\sqrt {n}}}},}$

y por tanto los límites establecidos por las desigualdades (1), (2) y (3) coinciden, salvo la constante.

Respecto a C ₀ , obviamente, sigue siendo válido el límite inferior establecido por Esseen (1956):

${\displaystyle C_{0}\geq {\frac {{\sqrt {10}}+3}{6{\sqrt {2\pi }}}}=0.4097\ldots .}$

El límite inferior se alcanza con exactitud sólo para ciertas distribuciones de Bernoulli (véase Esseen (1956) para sus expresiones explícitas).

Los límites superiores para C ₀ se redujeron posteriormente de la estimación original de Esseen de 7,59 a 0,5600. ^[3]

Versión multidimensional

Al igual que ocurre con el teorema del límite central multidimensional , existe una versión multidimensional del teorema de Berry-Esseen. ^{[4] [5]}

Sean vectores aleatorios independientes con media cero. Escriba y suponga que es invertible. Sea una gaussiana de dimensión 1 con la misma media y matriz de covarianza que . Entonces, para todos los conjuntos convexos , ${\displaystyle X_{1},\dots ,X_{n}}$ ${\displaystyle \mathbb {R} ^{d}}$ ${\displaystyle S_{n}=\sum _{i=1}^{n}X_{i}}$ ${\displaystyle \Sigma _{n}=\operatorname {Cov} [S_{n}]}$ ${\displaystyle Z_{n}\sim \operatorname {N} (0,{\Sigma _{n}})}$ ${\displaystyle d}$ ${\displaystyle S_{n}}$ ${\displaystyle U\subseteq \mathbb {R} ^{d}}$

${\displaystyle {\big |}\Pr[S_{n}\in U]-\Pr[Z_{n}\in U]\,{\big |}\leq Cd^{1/4}\gamma _{n}}$,

donde es una constante universal y (la tercera potencia de la norma L 2 ). ${\displaystyle C}$ ${\displaystyle \gamma _{n}=\sum _{i=1}^{n}\operatorname {E} {\big [}\|\Sigma _{n}^{-1/2}X_{i}\|_{2}^{3}{\big ]}}$

Se supone que la dependencia es óptima, pero podría no serlo. ^[5] ${\displaystyle d^{1/4}}$

Véase también

• Desigualdad de Chernoff
• Serie Edgeworth
• Lista de desigualdades
• Lista de teoremas matemáticos
• Desigualdad de concentración

Notas

1. Dado que las variables aleatorias se distribuyen de manera idéntica, X ₂ , X ₃ , ... todas tienen los mismos momentos que X ₁ .

Referencias

1. Essen (1942). Para mejoras, véase van Beek (1972), Shiganov (1986), Shevtsova (2007), Shevtsova (2008), Tyurin (2009), Korolev & Shevtsova (2010a), Tyurin (2010). La revisión detallada se puede encontrar en los artículos Korolev & Shevtsova (2010a) y Korolev & Shevtsova (2010b).
2. Shevtsova (2011).
3. Essen (1942); Zolotarev (1967); van Beek (1972); Shiganov (1986); Tiurin (2009); Tiurin (2010); Shevtsova (2010).
4. Bentkus, Vidmantas. "Un límite de tipo Lyapunov en R ^d ". Teoría de la probabilidad y sus aplicaciones 49.2 (2005): 311–323.
5. Raič, Martin (2019). "Un teorema de Berry--Esseen multivariado con constantes explícitas". Bernoulli . 25 (4A): 2824–2853. arXiv : 1802.06475 . doi :10.3150/18-BEJ1072. ISSN  1350-7265. S2CID  119607520.

Bibliografía

• Berry, Andrew C. (1941). "La precisión de la aproximación gaussiana a la suma de variables independientes". Transactions of the American Mathematical Society . 49 (1): 122–136. doi : 10.1090/S0002-9947-1941-0003498-3 . JSTOR  1990053.
• Durrett, Richard (1991). Probabilidad: teoría y ejemplos . Pacific Grove, CA: Wadsworth & Brooks/Cole. ISBN 0-534-13206-5 . 
• Esseen, Carl-Gustav (1942). "Sobre el límite de error de Liapunoff en la teoría de la probabilidad". Arkiv för Matematik, Astronomi och Fysik . R28 : 1–19. ISSN  0365-4133.
• Esseen, Carl-Gustav (1956). "Una desigualdad de momento con una aplicación al teorema del límite central". Skand. Aktuarietidskr . 39 : 160–170.
• Feller, William (1972). Introducción a la teoría de la probabilidad y sus aplicaciones, volumen II (2.ª ed.). Nueva York: John Wiley & Sons. ISBN 0-471-25709-5 . 
• Korolev, V. Yu.; Shevtsova, IG (2010a). "Sobre el límite superior de la constante absoluta en la desigualdad de Berry-Esseen". Teoría de la probabilidad y sus aplicaciones . 54 (4): 638–658. doi :10.1137/S0040585X97984449.
• Korolev, Victor; Shevtsova, Irina (2010b). "Una mejora de la desigualdad de Berry–Esseen con aplicaciones a sumas aleatorias de Poisson y Poisson mixtas". Scandinavian Actuarial Journal . 2012 (2): 1–25. arXiv : 0912.2795 . doi :10.1080/03461238.2010.485370. S2CID  115164568.
• Manoukian, Edward B. (1986). Conceptos y teoremas modernos de estadística matemática . Nueva York: Springer-Verlag. ISBN 0-387-96186-0 . 
• Serfling, Robert J. (1980). Teoremas de aproximación de las estadísticas matemáticas . Nueva York: John Wiley & Sons. ISBN 0-471-02403-1 . 
• Shevtsova, IG (2008). "Sobre la constante absoluta en la desigualdad de Berry-Esseen". Colección de artículos de jóvenes científicos de la Facultad de Matemática Computacional y Cibernética (5): 101–110.
• Shevtsova, Irina (2007). "Agudización del límite superior de la constante absoluta en la desigualdad de Berry-Esseen". Teoría de la probabilidad y sus aplicaciones . 51 (3): 549–553. doi :10.1137/S0040585X97982591.
• Shevtsova, Irina (2010). "Una mejora de las estimaciones de la tasa de convergencia en el teorema de Lyapunov". Doklady Mathematics . 82 (3): 862–864. doi :10.1134/S1064562410060062. S2CID  122973032.
• Shevtsova, Irina (2011). "Sobre las constantes absolutas en las desigualdades de tipo Berry Esseen para sumandos distribuidos de forma idéntica". arXiv : 1111.6554 [math.PR].
• Shiganov, IS (1986). "Refinamiento del límite superior de una constante en el término restante del teorema del límite central". Revista de Matemáticas Soviéticas . 35 (3): 109–115. doi : 10.1007/BF01121471 . S2CID  120112396.
• Tyurin, IS (2009). "Sobre la precisión de la aproximación gaussiana". Doklady Mathematics . 80 (3): 840–843. doi :10.1134/S1064562409060155. S2CID  121383741.
• Tyurin, IS (2010). "Una mejora de las estimaciones superiores de las constantes en el teorema de Lyapunov". Russian Mathematical Surveys . 65 (3(393)): 201–202. doi :10.1070/RM2010v065n03ABEH004688. S2CID  118771013.
• van Beek, P. (1972). "Una aplicación de los métodos de Fourier al problema de agudizar la desigualdad Berry-Esseen". Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete . 23 (3): 187–196. doi : 10.1007/BF00536558 . S2CID  121036017.
• Zolotarev, VM (1967). "Una agudización de la desigualdad de Berry-Esseen". Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete . 8 (4): 332–342. doi : 10.1007/BF00531598 . S2CID  122347713.

Enlaces externos

• Gut, Allan y Holst Lars. Carl-Gustav Esseen, consultado el 15 de marzo de 2004.
• "Desigualdad de Berry-Esseen", Enciclopedia de Matemáticas , EMS Press , 2001 [1994]