Función de distribución empírica

Función de distribución asociada a la medida empírica de una muestra

En estadística , una función de distribución empírica (comúnmente también llamada función de distribución acumulativa empírica , eCDF ) es la función de distribución asociada con la medida empírica de una muestra . ^[1] Esta función de distribución acumulativa es una función escalonada que aumenta en 1/ n en cada uno de los n puntos de datos. Su valor en cualquier valor especificado de la variable medida es la fracción de observaciones de la variable medida que son menores o iguales al valor especificado.

La función de distribución empírica es una estimación de la función de distribución acumulativa que generó los puntos de la muestra. Converge con probabilidad 1 a esa distribución subyacente, según el teorema de Glivenko-Cantelli . Existen varios resultados que cuantifican la tasa de convergencia de la función de distribución empírica a la función de distribución acumulativa subyacente.

Definición

Sean ( X ₁ , …, X _n ) variables aleatorias reales independientes , idénticamente distribuidas y con la función de distribución acumulativa común F ( t ) . Entonces la función de distribución empírica se define como ^[2]

${\displaystyle {\widehat {F}}_{n}(t)={\frac {{\mbox{number of elements in the sample}}\leq t}{n}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{X_{i}\leq t},}$

donde es el indicador del evento A . Para un t fijo , el indicador es una variable aleatoria de Bernoulli con parámetro p = F ( t ) ; por lo tanto es una variable aleatoria binomial con media nF ( t ) y varianza nF ( t )(1 − F ( t )) . Esto implica que es un estimador insesgado para F ( t ) . ${\displaystyle \mathbf {1} _{A}}$ ${\displaystyle \mathbf {1} _{X_{i}\leq t}}$ ${\displaystyle n{\widehat {F}}_{n}(t)}$ ${\displaystyle {\widehat {F}}_{n}(t)}$

Sin embargo, en algunos libros de texto, la definición se da como

${\displaystyle {\widehat {F}}_{n}(t)={\frac {1}{n+1}}\sum _{i=1}^{n}\mathbf {1} _{X_{i}\leq t}}$^{[3] [4]}

Propiedades asintóticas

Dado que la relación ( n  + 1)/ n se acerca a 1 cuando n tiende a infinito, las propiedades asintóticas de las dos definiciones que se dan arriba son las mismas.

Por la ley fuerte de los grandes números , el estimador converge a F ( t ) cuando n  → ∞ casi con seguridad , para cada valor de t : ^[2] ${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

${\displaystyle {\widehat {F}}_{n}(t)\ {\xrightarrow {\text{a.s.}}}\ F(t);}$

Por lo tanto, el estimador es consistente . Esta expresión afirma la convergencia puntual de la función de distribución empírica a la verdadera función de distribución acumulativa. Existe un resultado más contundente, llamado teorema de Glivenko-Cantelli , que afirma que la convergencia, de hecho, ocurre de manera uniforme a lo largo de t : ^[5] ${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

${\displaystyle \|{\widehat {F}}_{n}-F\|_{\infty }\equiv \sup _{t\in \mathbb {R} }{\big |}{\widehat {F}}_{n}(t)-F(t){\big |}\ \xrightarrow {} \ 0.}$

La norma sup en esta expresión se denomina estadística de Kolmogorov–Smirnov para probar la bondad de ajuste entre la distribución empírica y la función de distribución acumulativa verdadera supuesta F . En este caso, se pueden utilizar razonablemente otras funciones normativas en lugar de la norma sup. Por ejemplo, la norma L 2 da lugar a la estadística de Cramér–von Mises . ${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

La distribución asintótica se puede caracterizar de varias maneras diferentes. En primer lugar, el teorema del límite central establece que puntualmente , tiene una distribución asintóticamente normal con la tasa estándar de convergencia: ^[2] ${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$ ${\displaystyle {\sqrt {n}}}$

${\displaystyle {\sqrt {n}}{\big (}{\widehat {F}}_{n}(t)-F(t){\big )}\ \ {\xrightarrow {d}}\ \ {\mathcal {N}}{\Big (}0,F(t){\big (}1-F(t){\big )}{\Big )}.}$

Este resultado se extiende mediante el teorema de Donsker , que afirma que el proceso empírico , visto como una función indexada por , converge en distribución en el espacio de Skorokhod al proceso gaussiano de media cero , donde B es el puente browniano estándar . ^[5] La estructura de covarianza de este proceso gaussiano es ${\displaystyle \scriptstyle {\sqrt {n}}({\widehat {F}}_{n}-F)}$ ${\displaystyle \scriptstyle t\in \mathbb {R} }$ ${\displaystyle \scriptstyle D[-\infty ,+\infty ]}$ ${\displaystyle \scriptstyle G_{F}=B\circ F}$

${\displaystyle \operatorname {E} [\,G_{F}(t_{1})G_{F}(t_{2})\,]=F(t_{1}\wedge t_{2})-F(t_{1})F(t_{2}).}$

La tasa uniforme de convergencia en el teorema de Donsker se puede cuantificar mediante el resultado conocido como incrustación húngara : ^[6]

${\displaystyle \limsup _{n\to \infty }{\frac {\sqrt {n}}{\ln ^{2}n}}{\big \|}{\sqrt {n}}({\widehat {F}}_{n}-F)-G_{F,n}{\big \|}_{\infty }<\infty ,\quad {\text{a.s.}}}$

Alternativamente, la tasa de convergencia de también se puede cuantificar en términos del comportamiento asintótico de la supranorma de esta expresión. Existen varios resultados en este sentido, por ejemplo, la desigualdad de Dvoretzky-Kiefer-Wolfowitz proporciona un límite en las probabilidades de cola de : ^[6] ${\displaystyle \scriptstyle {\sqrt {n}}({\widehat {F}}_{n}-F)}$ ${\displaystyle \scriptstyle {\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}$

${\displaystyle \Pr \!{\Big (}{\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }>z{\Big )}\leq 2e^{-2z^{2}}.}$

De hecho, Kolmogorov ha demostrado que si la función de distribución acumulativa F es continua, entonces la expresión converge en distribución a , que tiene la distribución de Kolmogorov que no depende de la forma de F . ${\displaystyle \scriptstyle {\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}$ ${\displaystyle \scriptstyle \|B\|_{\infty }}$

Otro resultado, que se desprende de la ley del logaritmo iterado , es que ^[6]

${\displaystyle \limsup _{n\to \infty }{\frac {{\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}{\sqrt {2\ln \ln n}}}\leq {\frac {1}{2}},\quad {\text{a.s.}}}$

y

${\displaystyle \liminf _{n\to \infty }{\sqrt {2n\ln \ln n}}\|{\widehat {F}}_{n}-F\|_{\infty }={\frac {\pi }{2}},\quad {\text{a.s.}}}$

Intervalos de confianza

Gráficos de CDF empíricos, CDF e intervalo de confianza para varios tamaños de muestra de distribución normal

Gráficos de CDF empíricos, CDF e intervalo de confianza para varios tamaños de muestra de la distribución de Cauchy

Gráficos de CDF empíricos, CDF e intervalo de confianza para varios tamaños de muestra de distribución triangular

Según la desigualdad de Dvoretzky-Kiefer-Wolfowitz, el intervalo que contiene la CDF verdadera, , con probabilidad se especifica como ${\displaystyle F(x)}$ ${\displaystyle 1-\alpha }$

${\displaystyle F_{n}(x)-\varepsilon \leq F(x)\leq F_{n}(x)+\varepsilon \;{\text{ where }}\varepsilon ={\sqrt {\frac {\ln {\frac {2}{\alpha }}}{2n}}}.}$

Según los límites anteriores, podemos trazar la CDF empírica, la CDF y los intervalos de confianza para diferentes distribuciones utilizando cualquiera de las implementaciones estadísticas.

Implementación estadística

Una lista no exhaustiva de implementaciones de software de la función de distribución empírica incluye:

• En el software R, calculamos una función de distribución acumulativa empírica, con varios métodos para trazar, imprimir y calcular con dicho objeto “ecdf”.
• En MATLAB podemos utilizar el gráfico de función de distribución acumulativa (cdf) empírica
• jmp de SAS, el gráfico CDF crea un gráfico de la función de distribución acumulativa empírica.
• Minitab, crear una CDF empírica
• Mathwave, podemos ajustar la distribución de probabilidad a nuestros datos
• Diagrama de datos, podemos trazar un gráfico CDF empírico
• Scipy, podemos usar scipy.stats.ecdf
• Statsmodels, podemos utilizar statsmodels.distributions.empirical_distribution.ECDF
• Matplotlib, utilizando la función matplotlib.pyplot.ecdf (nueva en la versión 3.8.0) ^[7]
• Seaborn, utilizando la función seaborn.ecdfplot
• Plotly, utilizando la función plotly.express.ecdf
• Excel, podemos trazar un gráfico de CDF empírico
• ArviZ , utilizando la función az.plot_ecdf

Véase también

• Funciones de Càdlàg
• Contar datos
• Montaje de distribución
• Desigualdad de Dvoretzky-Kiefer-Wolfowitz
• Probabilidad empírica
• Proceso empírico
• Estimación de cuantiles a partir de una muestra
• Frecuencia (estadísticas)
• Probabilidad empírica
• Estimador de Kaplan-Meier para procesos censurados
• Función de supervivencia
• Diagrama Q-Q

Referencias

1. Una introducción moderna a la probabilidad y la estadística: entender por qué y cómo. Michel Dekking. Londres: Springer. 2005. pág. 219. ISBN 978-1-85233-896-1.OCLC 262680588  .{{cite book}}: Mantenimiento de CS1: otros ( enlace )
2. van der Vaart, AW (1998). Estadísticas asintóticas . Prensa de la Universidad de Cambridge. pag. 265.ISBN​  0-521-78450-6.
3. Coles, S. (2001) Introducción al modelado estadístico de valores extremos . Springer, pág. 36, Definición 2.4. ISBN 978-1-4471-3675-0 . 
4. Madsen, HO, Krenk, S., Lind, SC (2006) Métodos de seguridad estructural . Publicaciones de Dover. pág. 148-149. ISBN 0486445976 
5. van der Vaart, AW (1998). Estadísticas asintóticas . Prensa de la Universidad de Cambridge. pag. 266.ISBN​ 0-521-78450-6.
6. van der Vaart, AW (1998). Estadísticas asintóticas . Prensa de la Universidad de Cambridge. pag. 268.ISBN​ 0-521-78450-6.
7. "Novedades en Matplotlib 3.8.0 (13 de septiembre de 2023) — Documentación de Matplotlib 3.8.3".

Lectura adicional

• Shorack, GR ; Wellner, JA (1986). Procesos empíricos con aplicaciones a la estadística . Nueva York: Wiley. ISBN 0-471-86725-X.

Enlaces externos

• Medios relacionados con Funciones de distribución empírica en Wikimedia Commons