Desigualdad de varianza de suma binomial

La desigualdad de varianza de la suma binomial establece que la varianza de la suma de variables aleatorias distribuidas binomialmente siempre será menor o igual que la varianza de una variable binomial con los mismos parámetros n y p . En teoría de probabilidad y estadística , la suma de variables aleatorias binomiales independientes es en sí misma una variable aleatoria binomial si todas las variables componentes comparten la misma probabilidad de éxito. Si las probabilidades de éxito difieren, la distribución de probabilidad de la suma no es binomial. ^[1] La falta de uniformidad en las probabilidades de éxito entre ensayos independientes conduce a una varianza menor. ^{[2] [3] [4] [5] [6]} y es un caso especial de un teorema más general que involucra el valor esperado de funciones convexas. ^[7] En algunas aplicaciones estadísticas, el estimador de varianza binomial estándar se puede utilizar incluso si las probabilidades de los componentes difieren, aunque con una estimación de varianza que tiene un sesgo ascendente .

Declaración de desigualdad

Consideremos la suma, Z , de dos variables aleatorias binomiales independientes, X ~ B( m ₀ , p ₀ ) e Y ~ B( m ₁ , p ₁ ), donde Z = X + Y . Entonces, la varianza de Z es menor o igual a su varianza bajo el supuesto de que p ₀ = p ₁ = , es decir, si Z tuviera una distribución binomial con la probabilidad de éxito igual al promedio de las probabilidades de X e Y . ^[8] Simbólicamente, . ${\displaystyle {\bar {p}}}$ ${\displaystyle Var(Z)\leqslant E[Z](1-{\tfrac {E[Z]}{m_{0}+m_{1}}})}$

Prueba

Queremos demostrar que

${\displaystyle Var(Z)\leqslant E[Z](1-{\frac {E[Z]}{m_{0}+m_{1}}})}$

Probaremos esta desigualdad encontrando una expresión para Var( Z ) y sustituyéndola en el lado izquierdo, mostrando luego que la desigualdad siempre se cumple.

Si Z tiene una distribución binomial con parámetros n y p , entonces el valor esperado de Z está dado por E[ Z ] = np y la varianza de Z está dada por Var[ Z ] = np (1 – p ). Si n = m ₀ + m ₁ y sustituyemos E[ Z ] por np obtenemos

${\displaystyle Var(Z)=E[Z](1-{\frac {E[Z]}{m_{0}+m_{1}}})}$

Las variables aleatorias X e Y son independientes, por lo que la varianza de la suma es igual a la suma de las varianzas , es decir

${\displaystyle Var(Z)=E[X](1-{\frac {E[X]}{m_{0}}})+E[Y](1-{\frac {E[Y]}{m_{1}}})}$

Para demostrar el teorema, es suficiente demostrar que

${\displaystyle E[X](1-{\frac {E[X]}{m_{0}}})+E[Y](1-{\frac {E[Y]}{m_{1}}})\leqslant E[Z](1-{\frac {E[Z]}{m_{0}+m_{1}}})}$

Sustituyendo E[ X ] + E[ Y ] por E[ Z ] se obtiene

${\displaystyle E[X](1-{\frac {E[X]}{m_{0}}})+E[Y](1-{\frac {E[Y]}{m_{1}}})\leqslant (E[X]+E[Y])(1-{\frac {E[X]+E[Y]}{m_{0}+m_{1}}})}$

Al multiplicar los corchetes y restar E[X] + E[Y] de ambos lados se obtiene

${\displaystyle -{\frac {E[X]^{2}}{m_{0}}}-{\frac {E[Y]^{2}}{m_{1}}}\leqslant -{\frac {(E[X]+E[Y])^{2}}{m_{0}+m_{1}}}}$

Al multiplicar los paréntesis obtenemos

${\displaystyle E[X]-{\frac {E[X]^{2}}{m_{0}}}+E[Y]-{\frac {E[Y]^{2}}{m_{1}}}\leqslant E[X]+E[Y]-{\frac {(E[X]+E[Y])^{2}}{m_{0}+m_{1}}}}$

Restando E[X] y E[Y] de ambos lados e invirtiendo la desigualdad se obtiene

${\displaystyle {\frac {E[X]^{2}}{m_{0}}}+{\frac {E[Y]^{2}}{m_{1}}}\geqslant {\frac {(E[X]+E[Y])^{2}}{m_{0}+m_{1}}}}$

Al expandir el lado derecho se obtiene

${\displaystyle {\frac {E[X]^{2}}{m_{0}}}+{\frac {E[Y]^{2}}{m_{1}}}\geqslant {\frac {E[X]^{2}+2E[X]E[Y]+E[Y]^{2}}{m_{0}+m_{1}}}}$

Multiplicando por rendimientos ${\displaystyle m_{0}m_{1}(m_{0}+m_{1})}$

${\displaystyle (m_{0}m_{1}+{m_{1}}^{2}){E[X]^{2}}+({m_{0}}^{2}+m_{0}m_{1}){E[Y]^{2}}\geqslant m_{0}m_{1}({E[X]}^{2}+2E[X]E[Y]+{E[Y]]^{2}})}$

Restando el lado derecho se obtiene la relación

${\displaystyle {m_{1}}^{2}{E[X]^{2}}-2m_{0}m_{1}E[X]E[Y]+{m_{0}}^{2}{E[Y]^{2}}\geqslant 0}$

o equivalentemente

${\displaystyle (m_{1}E[X]-m_{0}E[Y])^{2}\geqslant 0}$

El cuadrado de un número real es siempre mayor o igual a cero, por lo que esto es cierto para todas las distribuciones binomiales independientes que X e Y podrían tomar. Esto es suficiente para demostrar el teorema.

Aunque esta prueba se desarrolló para la suma de dos variables, es fácil generalizarla a valores mayores que dos. Además, si se conocen las probabilidades de éxito individuales, se sabe que la varianza toma la forma ^[6]

${\displaystyle \operatorname {Var} (Z)=n{\bar {p}}(1-{\bar {p}})-ns^{2},}$

donde es la probabilidad media y . Esta expresión también implica que la varianza es siempre menor que la de la distribución binomial con , porque la expresión estándar para la varianza se reduce en ns ² , un número positivo. ${\displaystyle {\bar {p}}}$ ${\displaystyle s^{2}={\frac {1}{n}}\sum _{i=1}^{n}(p_{i}-{\bar {p}})^{2}}$ ${\displaystyle p={\bar {p}}}$

Aplicaciones

La desigualdad puede ser útil en el contexto de pruebas múltiples , donde se realizan muchas pruebas de hipótesis estadísticas dentro de un estudio en particular. Cada prueba puede tratarse como una variable de Bernoulli con una probabilidad de éxito p . Considere el número total de pruebas positivas como una variable aleatoria denotada por S. Esta cantidad es importante en la estimación de las tasas de descubrimiento falso (FDR) , que cuantifican la incertidumbre en los resultados de la prueba. Si la hipótesis nula es verdadera para algunas pruebas y la hipótesis alternativa es verdadera para otras pruebas, entonces es probable que las probabilidades de éxito difieran entre estos dos grupos. Sin embargo, el teorema de desigualdad de varianza establece que si las pruebas son independientes, la varianza de S no será mayor de lo que sería bajo una distribución binomial.

Referencias

1. Butler, Ken; Stephens, Michael (1993). "La distribución de una suma de variables aleatorias binomiales" (PDF) . Informe técnico n.º 467. Departamento de Estadística, Universidad de Stanford. Archivado (PDF) del original el 11 de abril de 2021.
2. Nedelman, J y Wallenius, T., 1986. Ensayos de Bernoulli, ensayos de Poisson, varianzas sorprendentes y desigualdad de Jensen. The American Statistician, 40(4):286–289.
3. Feller, W. 1968. Introducción a la teoría de la probabilidad y sus aplicaciones (Vol. 1, 3.ª ed.). Nueva York: John Wiley.
4. Johnson, NL y Kotz, S. 1969. Distribuciones discretas. Nueva York: John Wiley
5. Kendall, M. y Stuart, A. 1977. La teoría avanzada de la estadística. Nueva York: Macmillan.
6. Drezner, Zvi; Farnum, Nicholas (1993). "Una distribución binomial generalizada". Comunicaciones en Estadística - Teoría y Métodos . 22 (11): 3051–3063. doi :10.1080/03610929308831202. ISSN  0361-0926.
7. Hoeffding, W. 1956. Sobre la distribución del número de éxitos en ensayos independientes. Annals of Mathematical Statistics (27):713–721.
8. Millstein, J.; Volfson, D. (2013). "Estimación computacionalmente eficiente del intervalo de confianza basado en permutaciones para el área de la cola FDR". Frontiers in Genetics . 4 (179): 1–11. doi : 10.3389/fgene.2013.00179 . PMC 3775454 . PMID  24062767.