Teorema de Berry-Esseen

Teorema en la teoría de la probabilidad.

En teoría de la probabilidad , el teorema del límite central establece que, bajo ciertas circunstancias, la distribución de probabilidad de la media escalada de una muestra aleatoria converge a una distribución normal a medida que el tamaño de la muestra aumenta hasta el infinito. Bajo supuestos más sólidos, el teorema de Berry-Esseen , o desigualdad de Berry-Esseen , da un resultado más cuantitativo, porque también especifica la velocidad a la que se produce esta convergencia al dar un límite al error máximo de aproximación entre la distribución normal y la distribución verdadera de la media muestral escalada. La aproximación se mide por la distancia Kolmogorov-Smirnov . En el caso de muestras independientes , la tasa de convergencia es n ^−1/2 , donde n es el tamaño de la muestra y la constante se estima en términos del tercer momento normalizado absoluto .

Declaración del teorema

Las declaraciones del teorema varían, ya que fue descubierto de forma independiente por dos matemáticos , Andrew C. Berry (en 1941) y Carl-Gustav Esseen (1942), quienes luego, junto con otros autores, lo refinaron repetidamente durante las décadas siguientes.

Sumandos distribuidos idénticamente

Una versión, que sacrifica un poco la generalidad en aras de la claridad, es la siguiente:

Existe una constante positiva C tal que si X ₁ , X ₂ , ..., son variables aleatorias iid con E ( X ₁ ) = 0, E( X ₁ ² ) = σ ² > 0, y E(| X ₁ 3 ⁾ = ρ < ∞, ^{[nota 1]} y si definimos

${\displaystyle Y_{n}={X_{1}+X_{2}+\cdots +X_{n} \over n}}$

la media muestral , con F _n la función de distribución acumulativa de

${\displaystyle {Y_{n}{\sqrt {n}} \over {\sigma }},}$

y Φ la función de distribución acumulada de la distribución normal estándar , entonces para todos x y n ,

${\displaystyle \left|F_{n}(x)-\Phi (x)\right|\leq {C\rho \over \sigma ^{3}{\sqrt {n}}}.\ \ \ \ (1)}$

Ilustración de la diferencia en funciones de distribución acumulativa a la que se alude en el teorema.

Es decir: dada una secuencia de variables aleatorias independientes e idénticamente distribuidas , cada una con media cero y varianza positiva , si además el tercer momento absoluto es finito, entonces las funciones de distribución acumulativa de la media muestral estandarizada y la distribución normal estándar difieren (verticalmente, en un gráfico) por no más de la cantidad especificada. Tenga en cuenta que el error de aproximación para todo n (y, por tanto, la tasa límite de convergencia para n indefinido suficientemente grande) está limitado por el orden de n ^−1/2 .

Los límites superiores calculados de la constante C han disminuido notablemente a lo largo de los años, desde el valor original de 7,59 por Esseen en 1942. ^[1] La estimación C  < 0,4748 se deriva de la desigualdad

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq {0.33554(\rho +0.415\sigma ^{3}) \over \sigma ^{3}{\sqrt {n}}},}$

ya que σ ³  ≤ ρ y 0,33554 · 1,415 < 0,4748. Sin embargo, si ρ ≥ 1,286σ ³ , entonces la estimación

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq {0.3328(\rho +0.429\sigma ^{3}) \over \sigma ^{3}{\sqrt {n}}},}$

es aún más estricto. ^[2]

Esseen (1956) demostró que la constante también satisface el límite inferior

${\displaystyle C\geq {\frac {{\sqrt {10}}+3}{6{\sqrt {2\pi }}}}\approx 0.40973\approx {\frac {1}{\sqrt {2\pi }}}+0.01079.}$

Sumandos distribuidos de forma no idéntica

Sean X ₁ , X ₂ , ..., variables aleatorias independientes con E ( X _i ) = 0, E( X _i ² ) = σ _i ² > 0, y E(| X _i | ³ ) = ρ _i < ∞. Además, deja que

${\displaystyle S_{n}={X_{1}+X_{2}+\cdots +X_{n} \over {\sqrt {\sigma _{1}^{2}+\sigma _{2}^{2}+\cdots +\sigma _{n}^{2}}}}}$

sea ​​la n -ésima suma parcial normalizada. Denotemos por F _n la CDF de S _n y Φ la CDF de la distribución normal estándar . Por conveniencia denota

${\displaystyle {\vec {\sigma }}=(\sigma _{1},\ldots ,\sigma _{n}),\ {\vec {\rho }}=(\rho _{1},\ldots ,\rho _{n}).}$

En 1941, Andrew C. Berry demostró que para todo n existe una constante absoluta C ₁ tal que

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq C_{1}\cdot \psi _{1},\ \ \ \ (2)}$

dónde

${\displaystyle \psi _{1}=\psi _{1}{\big (}{\vec {\sigma }},{\vec {\rho }}{\big )}={\Big (}{\textstyle \sum \limits _{i=1}^{n}\sigma _{i}^{2}}{\Big )}^{-1/2}\cdot \max _{1\leq i\leq n}{\frac {\rho _{i}}{\sigma _{i}^{2}}}.}$

Independientemente, en 1942, Carl-Gustav Esseen demostró que para todo n existe una constante absoluta C ₀ tal que

${\displaystyle \sup _{x\in \mathbb {R} }\left|F_{n}(x)-\Phi (x)\right|\leq C_{0}\cdot \psi _{0},\ \ \ \ (3)}$

dónde

${\displaystyle \psi _{0}=\psi _{0}{\big (}{\vec {\sigma }},{\vec {\rho }}{\big )}={\Big (}{\textstyle \sum \limits _{i=1}^{n}\sigma _{i}^{2}}{\Big )}^{-3/2}\cdot \sum \limits _{i=1}^{n}\rho _{i}.}$

Es fácil asegurarse de que ψ ₀ ≤ψ ₁ . Debido a esta circunstancia, la desigualdad (3) se denomina convencionalmente desigualdad de Berry-Esseen, y la cantidad ψ ₀ se denomina fracción de Lyapunov de tercer orden. Además, en el caso de que los sumandos X ₁ , ..., X _n tengan distribuciones idénticas

${\displaystyle \psi _{0}=\psi _{1}={\frac {\rho _{1}}{\sigma _{1}^{3}{\sqrt {n}}}},}$

y por tanto los límites establecidos por las desigualdades (1), (2) y (3) coinciden aparte de la constante.

Respecto a C ₀ , obviamente, la cota inferior establecida por Esseen (1956) sigue siendo válida:

${\displaystyle C_{0}\geq {\frac {{\sqrt {10}}+3}{6{\sqrt {2\pi }}}}=0.4097\ldots .}$

El límite inferior se alcanza exactamente sólo para ciertas distribuciones de Bernoulli (ver Esseen (1956) para sus expresiones explícitas).

Los límites superiores de C ₀ se redujeron posteriormente desde la estimación original de Esseen de 7,59 a 0,5600. ^[3]

Versión multidimensional

Al igual que con el teorema del límite central multidimensional , existe una versión multidimensional del teorema de Berry-Esseen. ^{[4] [5]}

Sean vectores aleatorios de valores independientes , cada uno de los cuales tiene media cero. Escribir y asumir es invertible. Sea un gaussiano dimensional con la misma matriz de media y covarianza que . Entonces para todos los conjuntos convexos , ${\displaystyle X_{1},\dots ,X_{n}}$ ${\displaystyle \mathbb {R} ^{d}}$ ${\displaystyle S_{n}=\sum _{i=1}^{n}X_{i}}$ ${\displaystyle \Sigma _{n}=\operatorname {Cov} [S_{n}]}$ ${\displaystyle Z_{n}\sim \operatorname {N} (0,{\Sigma _{n}})}$ ${\displaystyle d}$ ${\displaystyle S_{n}}$ ${\displaystyle U\subseteq \mathbb {R} ^{d}}$

${\displaystyle {\big |}\Pr[S_{n}\in U]-\Pr[Z_{n}\in U]\,{\big |}\leq Cd^{1/4}\gamma _{n}}$,

donde es una constante universal y (la tercera potencia de la norma L 2 ). ${\displaystyle C}$ ${\displaystyle \gamma _{n}=\sum _{i=1}^{n}\operatorname {E} {\big [}\|\Sigma _{n}^{-1/2}X_{i}\|_{2}^{3}{\big ]}}$

Se conjetura que la dependencia es óptima, pero podría no serlo. ^[5] ${\displaystyle d^{1/4}}$

Ver también

• La desigualdad de Chernoff
• Serie Edgeworth
• Lista de desigualdades
• Lista de teoremas matemáticos
• Desigualdad de concentración

Notas

1. Dado que las variables aleatorias están distribuidas de manera idéntica, X ₂ , X ₃ , ... todas tienen los mismos momentos que X ₁ .

Referencias

1. Essen (1942). Para mejoras, véase van Beek (1972), Shiganov (1986), Shevtsova (2007), Shevtsova (2008), Tyurin (2009), Korolev & Shevtsova (2010a), Tyurin (2010). La revisión detallada se puede encontrar en los artículos Korolev & Shevtsova (2010a) y Korolev & Shevtsova (2010b).
2. Shevtsova (2011).
3. Essen (1942); Zolotarev (1967); van Beek (1972); Shiganov (1986); Tiurin (2009); Tiurin (2010); Shevtsova (2010).
4. Bentkus, Vidmantas. "Un tipo Lyapunov encuadernado en R ^d ". Teoría de la probabilidad y sus aplicaciones 49.2 (2005): 311–323.
5. Raič, Martín (2019). "Un teorema de Berry-Esseen multivariado con constantes explícitas". Bernoulli . 25 (4A): 2824–2853. arXiv : 1802.06475 . doi :10.3150/18-BEJ1072. ISSN  1350-7265. S2CID  119607520.

Bibliografía

• Baya, Andrew C. (1941). "La precisión de la aproximación gaussiana a la suma de variables independientes". Transacciones de la Sociedad Matemática Estadounidense . 49 (1): 122-136. doi : 10.1090/S0002-9947-1941-0003498-3 . JSTOR  1990053.
• Durrett, Richard (1991). Probabilidad: teoría y ejemplos . Pacific Grove, California: Wadsworth & Brooks/Cole. ISBN 0-534-13206-5 . 
• Esseen, Carl-Gustav (1942). "Sobre el límite de error de Liapunoff en la teoría de la probabilidad". Arkiv för Matematik, Astronomi och Fysik . R28 : 1–19. ISSN  0365-4133.
• Esseen, Carl-Gustav (1956). "Una desigualdad de momento con aplicación al teorema del límite central". Skánd. Aktuarietidskr . 39 : 160-170.
• Feller, William (1972). Introducción a la teoría de la probabilidad y sus aplicaciones, volumen II (2ª ed.). Nueva York: John Wiley & Sons. ISBN 0-471-25709-5 . 
• Korolev, V. Yu.; Shevtsova, IG (2010a). "En el límite superior de la constante absoluta de la desigualdad Berry-Esseen". Teoría de la probabilidad y sus aplicaciones . 54 (4): 638–658. doi :10.1137/S0040585X97984449.
• Korolev, Víctor; Shevtsova, Irina (2010b). "Una mejora de la desigualdad Berry-Esseen con aplicaciones a Poisson y sumas aleatorias mixtas de Poisson". Revista actuarial escandinava . 2012 (2): 1–25. arXiv : 0912.2795 . doi :10.1080/03461238.2010.485370. S2CID  115164568.
• Manoukian, Edward B. (1986). Conceptos y teoremas modernos de estadística matemática . Nueva York: Springer-Verlag. ISBN 0-387-96186-0 . 
• Serfling, Robert J. (1980). Teoremas de aproximación de la estadística matemática . Nueva York: John Wiley & Sons. ISBN 0-471-02403-1 . 
• Shevtsova, IG (2008). "Sobre la constante absoluta en la desigualdad Berry-Esseen". Colección de artículos de jóvenes científicos de la Facultad de Matemática Computacional y Cibernética (5): 101–110.
• Shevtsova, Irina (2007). "Afinación del límite superior de la constante absoluta en la desigualdad de Berry-Esseen". Teoría de la probabilidad y sus aplicaciones . 51 (3): 549–553. doi :10.1137/S0040585X97982591.
• Shevtsova, Irina (2010). "Una mejora de las estimaciones de la tasa de convergencia en el teorema de Lyapunov". Doklady Matemáticas . 82 (3): 862–864. doi :10.1134/S1064562410060062. S2CID  122973032.
• Shevtsova, Irina (2011). "Sobre las constantes absolutas en las desigualdades del tipo Berry Esseen para sumandos distribuidos idénticamente". arXiv : 1111.6554 [matemáticas.PR].
• Shiganov, IS (1986). "Refinamiento del límite superior de una constante en el término restante del teorema del límite central". Revista de Matemáticas Soviéticas . 35 (3): 109–115. doi : 10.1007/BF01121471 . S2CID  120112396.
• Tyurin, IS (2009). "Sobre la precisión de la aproximación gaussiana". Doklady Matemáticas . 80 (3): 840–843. doi :10.1134/S1064562409060155. S2CID  121383741.
• Tyurin, IS (2010). "Una mejora de las estimaciones superiores de las constantes del teorema de Lyapunov". Encuestas matemáticas rusas . 65 (3(393)): 201–202. doi :10.1070/RM2010v065n03ABEH004688. S2CID  118771013.
• van Beek, P. (1972). "Una aplicación de los métodos de Fourier al problema de agudizar la desigualdad Berry-Esseen". Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete . 23 (3): 187–196. doi : 10.1007/BF00536558 . S2CID  121036017.
• Zolotarev, VM (1967). "Una agudización de la desigualdad de Berry-Esseen". Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete . 8 (4): 332–342. doi : 10.1007/BF00531598 . S2CID  122347713.

enlaces externos

• Gut, Allan y Holst Lars. Carl-Gustav Esseen, consultado el 15 de marzo de 2004.
• "Desigualdad Berry-Esseen", Enciclopedia de Matemáticas , EMS Press , 2001 [1994]