Suma de variables aleatorias distribuidas normalmente

Aspecto de la teoría de la probabilidad.

En teoría de la probabilidad , el cálculo de la suma de variables aleatorias distribuidas normalmente es un ejemplo de la aritmética de variables aleatorias .

Esto no debe confundirse con la suma de distribuciones normales que forma una distribución mixta .

Variables aleatorias independientes

Sean X e Y variables aleatorias independientes que se distribuyen normalmente (y, por tanto, también de forma conjunta), entonces su suma también se distribuye normalmente. es decir, si

${\displaystyle X\sim N(\mu _{X},\sigma _{X}^{2})}$

${\displaystyle Y\sim N(\mu _{Y},\sigma _{Y}^{2})}$

${\displaystyle Z=X+Y,}$

entonces

${\displaystyle Z\sim N(\mu _{X}+\mu _{Y},\sigma _{X}^{2}+\sigma _{Y}^{2}).}$

Esto significa que la suma de dos variables aleatorias independientes distribuidas normalmente es normal, siendo su media la suma de las dos medias y su varianza la suma de las dos varianzas (es decir, el cuadrado de la desviación estándar es la suma de las cuadrados de las desviaciones estándar). ^[1]

Para que este resultado se cumpla, no se puede abandonar el supuesto de que X e Y son independientes, aunque se puede debilitar al supuesto de que X e Y se distribuyen normalmente de forma conjunta , y no por separado. ^[2] (Consulte aquí un ejemplo ).

El resultado sobre la media se cumple en todos los casos, mientras que el resultado sobre la varianza requiere falta de correlación, pero no independencia.

Pruebas

Prueba utilizando funciones características.

La función característica

${\displaystyle \varphi _{X+Y}(t)=\operatorname {E} \left(e^{it(X+Y)}\right)}$

de la suma de dos variables aleatorias independientes X e Y es solo el producto de las dos funciones características separadas:

${\displaystyle \varphi _{X}(t)=\operatorname {E} \left(e^{itX}\right),\qquad \varphi _{Y}(t)=\operatorname {E} \left(e^{itY}\right)}$

de X e Y.​

La función característica de la distribución normal con valor esperado μ y varianza σ ² es

${\displaystyle \varphi (t)=\exp \left(it\mu -{\sigma ^{2}t^{2} \over 2}\right).}$

Entonces

${\displaystyle {\begin{aligned}\varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)&=\exp \left(it\mu _{X}-{\sigma _{X}^{2}t^{2} \over 2}\right)\exp \left(it\mu _{Y}-{\sigma _{Y}^{2}t^{2} \over 2}\right)\\[6pt]&=\exp \left(it(\mu _{X}+\mu _{Y})-{(\sigma _{X}^{2}+\sigma _{Y}^{2})t^{2} \over 2}\right).\end{aligned}}}$

Esta es la función característica de la distribución normal con valor esperado y varianza. ${\displaystyle \mu _{X}+\mu _{Y}}$ ${\displaystyle \sigma _{X}^{2}+\sigma _{Y}^{2}}$

Finalmente, recuerde que no hay dos distribuciones distintas que puedan tener la misma función característica, por lo que la distribución de X  +  Y debe ser simplemente esta distribución normal.

Prueba usando convoluciones

Para variables aleatorias independientes X e Y , la distribución f _Z de Z = X  +  Y es igual a la convolución de f _X y f _Y :

${\displaystyle f_{Z}(z)=\int _{-\infty }^{\infty }f_{Y}(z-x)f_{X}(x)\,dx}$

Dado que f _X y f _Y son densidades normales,

${\displaystyle {\begin{aligned}f_{X}(x)={\mathcal {N}}(x;\mu _{X},\sigma _{X}^{2})={\frac {1}{{\sqrt {2\pi }}\sigma _{X}}}e^{-(x-\mu _{X})^{2}/(2\sigma _{X}^{2})}\\[5pt]f_{Y}(y)={\mathcal {N}}(y;\mu _{Y},\sigma _{Y}^{2})={\frac {1}{{\sqrt {2\pi }}\sigma _{Y}}}e^{-(y-\mu _{Y})^{2}/(2\sigma _{Y}^{2})}\end{aligned}}}$

Sustituyendo en la convolución:

${\displaystyle {\begin{aligned}f_{Z}(z)&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}\sigma _{Y}}}\exp \left[-{(z-x-\mu _{Y})^{2} \over 2\sigma _{Y}^{2}}\right]{\frac {1}{{\sqrt {2\pi }}\sigma _{X}}}\exp \left[-{(x-\mu _{X})^{2} \over 2\sigma _{X}^{2}}\right]\,dx\\[6pt]&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}{\sqrt {2\pi }}\sigma _{X}\sigma _{Y}}}\exp \left[-{\frac {\sigma _{X}^{2}(z-x-\mu _{Y})^{2}+\sigma _{Y}^{2}(x-\mu _{X})^{2}}{2\sigma _{X}^{2}\sigma _{Y}^{2}}}\right]\,dx\\[6pt]&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}{\sqrt {2\pi }}\sigma _{X}\sigma _{Y}}}\exp \left[-{\frac {\sigma _{X}^{2}(z^{2}+x^{2}+\mu _{Y}^{2}-2xz-2z\mu _{Y}+2x\mu _{Y})+\sigma _{Y}^{2}(x^{2}+\mu _{X}^{2}-2x\mu _{X})}{2\sigma _{Y}^{2}\sigma _{X}^{2}}}\right]\,dx\\[6pt]&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}{\sqrt {2\pi }}\sigma _{X}\sigma _{Y}}}\exp \left[-{\frac {x^{2}(\sigma _{X}^{2}+\sigma _{Y}^{2})-2x(\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X})+\sigma _{X}^{2}(z^{2}+\mu _{Y}^{2}-2z\mu _{Y})+\sigma _{Y}^{2}\mu _{X}^{2}}{2\sigma _{Y}^{2}\sigma _{X}^{2}}}\right]\,dx\\[6pt]\end{aligned}}}$

Definiendo y completando el cuadrado : ${\displaystyle \sigma _{Z}={\sqrt {\sigma _{X}^{2}+\sigma _{Y}^{2}}}}$

${\displaystyle {\begin{aligned}f_{Z}(z)&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}\sigma _{Z}}}{\frac {1}{{\sqrt {2\pi }}{\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}}}\exp \left[-{\frac {x^{2}-2x{\frac {\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}}{\sigma _{Z}^{2}}}+{\frac {\sigma _{X}^{2}(z^{2}+\mu _{Y}^{2}-2z\mu _{Y})+\sigma _{Y}^{2}\mu _{X}^{2}}{\sigma _{Z}^{2}}}}{2\left({\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}\right)^{2}}}\right]\,dx\\[6pt]&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}\sigma _{Z}}}{\frac {1}{{\sqrt {2\pi }}{\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}}}\exp \left[-{\frac {\left(x-{\frac {\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}}{\sigma _{Z}^{2}}}\right)^{2}-\left({\frac {\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}}{\sigma _{Z}^{2}}}\right)^{2}+{\frac {\sigma _{X}^{2}(z-\mu _{Y})^{2}+\sigma _{Y}^{2}\mu _{X}^{2}}{\sigma _{Z}^{2}}}}{2\left({\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}\right)^{2}}}\right]\,dx\\[6pt]&=\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}\sigma _{Z}}}\exp \left[-{\frac {\sigma _{Z}^{2}\left(\sigma _{X}^{2}(z-\mu _{Y})^{2}+\sigma _{Y}^{2}\mu _{X}^{2}\right)-\left(\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}\right)^{2}}{2\sigma _{Z}^{2}\left(\sigma _{X}\sigma _{Y}\right)^{2}}}\right]{\frac {1}{{\sqrt {2\pi }}{\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}}}\exp \left[-{\frac {\left(x-{\frac {\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}}{\sigma _{Z}^{2}}}\right)^{2}}{2\left({\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}\right)^{2}}}\right]\,dx\\[6pt]&={\frac {1}{{\sqrt {2\pi }}\sigma _{Z}}}\exp \left[-{(z-(\mu _{X}+\mu _{Y}))^{2} \over 2\sigma _{Z}^{2}}\right]\int _{-\infty }^{\infty }{\frac {1}{{\sqrt {2\pi }}{\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}}}\exp \left[-{\frac {\left(x-{\frac {\sigma _{X}^{2}(z-\mu _{Y})+\sigma _{Y}^{2}\mu _{X}}{\sigma _{Z}^{2}}}\right)^{2}}{2\left({\frac {\sigma _{X}\sigma _{Y}}{\sigma _{Z}}}\right)^{2}}}\right]\,dx\end{aligned}}}$

La expresión de la integral es una distribución de densidad normal en x , por lo que la integral se evalúa como 1. El resultado deseado es el siguiente:

${\displaystyle f_{Z}(z)={\frac {1}{{\sqrt {2\pi }}\sigma _{Z}}}\exp \left[-{(z-(\mu _{X}+\mu _{Y}))^{2} \over 2\sigma _{Z}^{2}}\right]}$

Usando el teorema de convolución

Se puede demostrar que la transformada de Fourier de una gaussiana, es ^[3] ${\displaystyle f_{X}(x)={\mathcal {N}}(x;\mu _{X},\sigma _{X}^{2})}$

${\displaystyle {\mathcal {F}}\{f_{X}\}=F_{X}(\omega )=\exp \left[-j\omega \mu _{X}\right]\exp \left[-{\tfrac {\sigma _{X}^{2}\omega ^{2}}{2}}\right]}$

Por el teorema de convolución :

${\displaystyle {\begin{aligned}f_{Z}(z)&=(f_{X}*f_{Y})(z)\\[5pt]&={\mathcal {F}}^{-1}{\big \{}{\mathcal {F}}\{f_{X}\}\cdot {\mathcal {F}}\{f_{Y}\}{\big \}}\\[5pt]&={\mathcal {F}}^{-1}{\big \{}\exp \left[-j\omega \mu _{X}\right]\exp \left[-{\tfrac {\sigma _{X}^{2}\omega ^{2}}{2}}\right]\exp \left[-j\omega \mu _{Y}\right]\exp \left[-{\tfrac {\sigma _{Y}^{2}\omega ^{2}}{2}}\right]{\big \}}\\[5pt]&={\mathcal {F}}^{-1}{\big \{}\exp \left[-j\omega (\mu _{X}+\mu _{Y})\right]\exp \left[-{\tfrac {(\sigma _{X}^{2}\ +\sigma _{Y}^{2})\omega ^{2}}{2}}\right]{\big \}}\\[5pt]&={\mathcal {N}}(z;\mu _{X}+\mu _{Y},\sigma _{X}^{2}+\sigma _{Y}^{2})\end{aligned}}}$

prueba geométrica

Primero considere el caso normalizado cuando X , Y ~ N (0, 1), de modo que sus PDF sean

${\displaystyle f(x)={\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}}$

y

${\displaystyle g(y)={\frac {1}{\sqrt {2\pi \,}}}e^{-y^{2}/2}.}$

Sea Z = X  +  Y . Entonces la CDF para Z será

${\displaystyle z\mapsto \int _{x+y\leq z}f(x)g(y)\,dx\,dy.}$

Esta integral está sobre el semiplano que se encuentra debajo de la línea x + y = z .

La observación clave es que la función

${\displaystyle f(x)g(y)={\frac {1}{2\pi }}e^{-(x^{2}+y^{2})/2}\,}$

es radialmente simétrico. Entonces rotamos el plano de coordenadas alrededor del origen, eligiendo nuevas coordenadas tales que la línea x + y = z esté descrita por la ecuación donde está determinada geométricamente. Debido a la simetría radial, tenemos y la CDF para Z es ${\displaystyle x',y'}$ ${\displaystyle x'=c}$ ${\displaystyle c=c(z)}$ ${\displaystyle f(x)g(y)=f(x')g(y')}$

${\displaystyle \int _{x'\leq c,y'\in \mathbb {R} }f(x')g(y')\,dx'\,dy'.}$

Esto es fácil de integrar; encontramos que la CDF para Z es

${\displaystyle \int _{-\infty }^{c(z)}f(x')\,dx'=\Phi (c(z)).}$

Para determinar el valor , observe que rotamos el plano de modo que la línea x + y = z ahora corre verticalmente con una intersección en x igual a c . Entonces c es simplemente la distancia desde el origen hasta la recta x + y = z a lo largo de la bisectriz perpendicular, que corta la recta en su punto más cercano al origen, en este caso . Entonces la distancia es y la CDF para Z es , es decir, ${\displaystyle c(z)}$ ${\displaystyle (z/2,z/2)\,}$ ${\displaystyle c={\sqrt {(z/2)^{2}+(z/2)^{2}}}=z/{\sqrt {2}}\,}$ ${\displaystyle \Phi (z/{\sqrt {2}})}$ ${\displaystyle Z=X+Y\sim N(0,2).}$

Ahora, si a , b son constantes reales (no ambas cero), entonces la probabilidad se encuentra mediante la misma integral que arriba, pero con la línea delimitadora . El mismo método de rotación funciona, y en este caso más general encontramos que el punto más cercano en la línea al origen se encuentra a una distancia (con signo) ${\displaystyle aX+bY\leq z}$ ${\displaystyle ax+by=z}$

${\displaystyle {\frac {z}{\sqrt {a^{2}+b^{2}}}}}$

lejos, para que

${\displaystyle aX+bY\sim N(0,a^{2}+b^{2}).}$

El mismo argumento en dimensiones superiores muestra que si

${\displaystyle X_{i}\sim N(0,\sigma _{i}^{2}),\qquad i=1,\dots ,n,}$

entonces

${\displaystyle X_{1}+\cdots +X_{n}\sim N(0,\sigma _{1}^{2}+\cdots +\sigma _{n}^{2}).}$

Ahora esencialmente hemos terminado, porque

${\displaystyle X\sim N(\mu ,\sigma ^{2})\Leftrightarrow {\frac {1}{\sigma }}(X-\mu )\sim N(0,1).}$

Entonces, en general, si

${\displaystyle X_{i}\sim N(\mu _{i},\sigma _{i}^{2}),\qquad i=1,\dots ,n,}$

entonces

${\displaystyle \sum _{i=1}^{n}a_{i}X_{i}\sim N\left(\sum _{i=1}^{n}a_{i}\mu _{i},\sum _{i=1}^{n}(a_{i}\sigma _{i})^{2}\right).}$

Variables aleatorias correlacionadas

En el caso de que las variables X e Y sean variables aleatorias distribuidas normalmente de forma conjunta, entonces X  +  Y todavía está distribuida normalmente (ver Distribución normal multivariada ) y la media es la suma de las medias. Sin embargo, las varianzas no son aditivas debido a la correlación. En efecto,

${\displaystyle \sigma _{X+Y}={\sqrt {\sigma _{X}^{2}+\sigma _{Y}^{2}+2\rho \sigma _{X}\sigma _{Y}}},}$

donde ρ es la correlación . En particular, siempre que ρ < 0, entonces la varianza es menor que la suma de las varianzas de X e Y.

Se pueden hacer extensiones de este resultado para más de dos variables aleatorias, utilizando la matriz de covarianza .

Prueba

En este caso (donde X e Y tienen medias cero), es necesario considerar

${\displaystyle {\frac {1}{2\pi \sigma _{x}\sigma _{y}{\sqrt {1-\rho ^{2}}}}}\iint _{x\,y}\exp \left[-{\frac {1}{2(1-\rho ^{2})}}\left({\frac {x^{2}}{\sigma _{x}^{2}}}+{\frac {y^{2}}{\sigma _{y}^{2}}}-{\frac {2\rho xy}{\sigma _{x}\sigma _{y}}}\right)\right]\delta (z-(x+y))\,\mathrm {d} x\,\mathrm {d} y.}$

Como arriba, se hace la sustitución. ${\displaystyle y\rightarrow z-x}$

Esta integral es más complicada de simplificar analíticamente, pero se puede hacer fácilmente usando un programa matemático simbólico. La distribución de probabilidad f _Z ( z ) viene dada en este caso por

${\displaystyle f_{Z}(z)={\frac {1}{{\sqrt {2\pi }}\sigma _{+}}}\exp \left(-{\frac {z^{2}}{2\sigma _{+}^{2}}}\right)}$

dónde

${\displaystyle \sigma _{+}={\sqrt {\sigma _{x}^{2}+\sigma _{y}^{2}+2\rho \sigma _{x}\sigma _{y}}}.}$

Si en cambio se considera Z = X  −  Y , entonces se obtiene

${\displaystyle f_{Z}(z)={\frac {1}{\sqrt {2\pi (\sigma _{x}^{2}+\sigma _{y}^{2}-2\rho \sigma _{x}\sigma _{y})}}}\exp \left(-{\frac {z^{2}}{2(\sigma _{x}^{2}+\sigma _{y}^{2}-2\rho \sigma _{x}\sigma _{y})}}\right)}$

que también se puede reescribir con

${\displaystyle \sigma _{X-Y}={\sqrt {\sigma _{x}^{2}+\sigma _{y}^{2}-2\rho \sigma _{x}\sigma _{y}}}.}$

Las desviaciones estándar de cada distribución son obvias en comparación con la distribución normal estándar.

Referencias

1. Lemons, Don S. (2002), Introducción a los procesos estocásticos en física , The Johns Hopkins University Press, p. 34, ISBN 0-8018-6866-1
2. Limones (2002) págs. 35-36
3. Derpanis, Konstantinos G. (20 de octubre de 2005). "Transformada de Fourier de Gauss" (PDF) .

Ver también

• Propagación de la incertidumbre
• Álgebra de variables aleatorias
• Distribución estable
• Error estándar (estadísticas)
• Distribución de proporciones
• La distribución del producto
• Distribución de barra
• Lista de convoluciones de distribuciones de probabilidad.