Función generadora de momentos

Concepto en teoría de probabilidad y estadística

En teoría de probabilidad y estadística , la función generadora de momentos de una variable aleatoria de valor real es una especificación alternativa de su distribución de probabilidad . Por lo tanto, proporciona la base de una ruta alternativa para obtener resultados analíticos en comparación con el trabajo directo con funciones de densidad de probabilidad o funciones de distribución acumulativa . Existen resultados particularmente simples para las funciones generadoras de momentos de distribuciones definidas por las sumas ponderadas de variables aleatorias. Sin embargo, no todas las variables aleatorias tienen funciones generadoras de momentos.

Como su nombre lo indica, la función generadora de momentos se puede utilizar para calcular los momentos de una distribución : el n -ésimo momento alrededor de 0 es la n -ésima derivada de la función generadora de momentos, evaluada en 0.

Además de las distribuciones de valores reales (distribuciones univariadas), se pueden definir funciones generadoras de momentos para variables aleatorias con valores vectoriales o matriciales, e incluso se pueden extender a casos más generales.

La función generadora de momentos de una distribución de valores reales no siempre existe, a diferencia de la función característica . Existen relaciones entre el comportamiento de la función generadora de momentos de una distribución y las propiedades de la distribución, como la existencia de momentos.

Definición

Sea una variable aleatoria con CDF . La función generadora de momentos (mgf) de (o ), denotada por , es ${\displaystyle X}$ ${\displaystyle F_{X}}$ ${\displaystyle X}$ ${\displaystyle F_{X}}$ ${\displaystyle M_{X}(t)}$

${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]}$

siempre que exista esta expectativa para en algún entorno abierto de 0. Es decir, existe un tal que para todo en , existe. Si la expectativa no existe en un entorno abierto de 0, decimos que la función generadora de momentos no existe. ^[1] ${\displaystyle t}$ ${\displaystyle h>0}$ ${\displaystyle t}$ ${\displaystyle -h<t<h}$ ${\displaystyle \operatorname {E} \left[e^{tX}\right]}$

En otras palabras, la función generadora de momentos de X es la esperanza de la variable aleatoria . De manera más general, cuando , un vector aleatorio de dimensión , y es un vector fijo, se utiliza en lugar de  : ${\displaystyle e^{tX}}$ ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\mathrm {T} }}$ ${\displaystyle n}$ ${\displaystyle \mathbf {t} }$ ${\displaystyle \mathbf {t} \cdot \mathbf {X} =\mathbf {t} ^{\mathrm {T} }\mathbf {X} }$ ${\displaystyle tX}$

${\displaystyle M_{\mathbf {X} }(\mathbf {t} ):=\operatorname {E} \left(e^{\mathbf {t} ^{\mathrm {T} }\mathbf {X} }\right).}$

${\displaystyle M_{X}(0)}$siempre existe y es igual a 1. Sin embargo, un problema clave con las funciones generadoras de momentos es que los momentos y la función generadora de momentos pueden no existir, ya que las integrales no necesitan converger de manera absoluta. Por el contrario, la función característica o transformada de Fourier siempre existe (porque es la integral de una función acotada en un espacio de medida finita ), y para algunos propósitos puede usarse en su lugar.

La función generadora de momentos se llama así porque se puede utilizar para encontrar los momentos de la distribución. ^[2] La expansión en serie de es ${\displaystyle e^{tX}}$

${\displaystyle e^{t\,X}=1+t\,X+{\frac {t^{2}\,X^{2}}{2!}}+{\frac {t^{3}\,X^{3}}{3!}}+\cdots +{\frac {t^{n}\,X^{n}}{n!}}+\cdots .}$

Por eso

${\displaystyle {\begin{aligned}M_{X}(t)=\operatorname {E} (e^{t\,X})&=1+t\operatorname {E} (X)+{\frac {t^{2}\operatorname {E} (X^{2})}{2!}}+{\frac {t^{3}\operatorname {E} (X^{3})}{3!}}+\cdots +{\frac {t^{n}\operatorname {E} (X^{n})}{n!}}+\cdots \\&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+{\frac {t^{3}m_{3}}{3!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$

donde es el momento . Derivando los tiempos con respecto a y fijando , obtenemos el momento respecto al origen, ; vea Cálculos de momentos a continuación. ${\displaystyle m_{n}}$ ${\displaystyle n}$ ${\displaystyle M_{X}(t)}$ ${\displaystyle i}$ ${\displaystyle t}$ ${\displaystyle t=0}$ ${\displaystyle i}$ ${\displaystyle m_{i}}$

Si es una variable aleatoria continua, se cumple la siguiente relación entre su función generadora de momentos y la transformada de Laplace bilateral de su función de densidad de probabilidad : ${\displaystyle X}$ ${\displaystyle M_{X}(t)}$ ${\displaystyle f_{X}(x)}$

${\displaystyle M_{X}(t)={\mathcal {L}}\{f_{X}\}(-t),}$

dado que la transformada de Laplace bilateral de la PDF se da como

${\displaystyle {\mathcal {L}}\{f_{X}\}(s)=\int _{-\infty }^{\infty }e^{-sx}f_{X}(x)\,dx,}$

y la definición de la función generadora de momentos se expande (por la ley del estadístico inconsciente ) a

${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]=\int _{-\infty }^{\infty }e^{tx}f_{X}(x)\,dx.}$

Esto es coherente con la función característica de ser una rotación de Wick de cuando existe la función generadora de momentos, ya que la función característica de una variable aleatoria continua es la transformada de Fourier de su función de densidad de probabilidad y, en general, cuando una función es de orden exponencial, la transformada de Fourier de es una rotación de Wick de su transformada de Laplace de dos lados en la región de convergencia. Consulte la relación de las transformadas de Fourier y Laplace para obtener más información. ${\displaystyle X}$ ${\displaystyle M_{X}(t)}$ ${\displaystyle X}$ ${\displaystyle f_{X}(x)}$ ${\displaystyle f(x)}$ ${\displaystyle f}$

Ejemplos

A continuación se muestran algunos ejemplos de la función generadora de momentos y la función característica para su comparación. Se puede observar que la función característica es una rotación de Wick de la función generadora de momentos cuando esta última existe. ${\displaystyle M_{X}(t)}$

Cálculo

La función generadora de momentos es la esperanza de una función de la variable aleatoria, se puede escribir como:

• Para una función de masa de probabilidad discreta , ${\displaystyle M_{X}(t)=\sum _{i=0}^{\infty }e^{tx_{i}}\,p_{i}}$
• Para una función de densidad de probabilidad continua , ${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx}$
• En el caso general: , utilizando la integral de Riemann-Stieltjes , y donde es la función de distribución acumulativa . Esta es simplemente la transformada de Laplace-Stieltjes de , pero con el signo del argumento invertido. ${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)}$ ${\displaystyle F}$ ${\displaystyle F}$

Nótese que para el caso donde tiene una función de densidad de probabilidad continua , es la transformada de Laplace de dos lados de . ${\displaystyle X}$ ${\displaystyle f(x)}$ ${\displaystyle M_{X}(-t)}$ ${\displaystyle f(x)}$

${\displaystyle {\begin{aligned}M_{X}(t)&=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx\\&=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots +{\frac {t^{n}x^{n}}{n!}}+\cdots \right)f(x)\,dx\\&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$

¿ Dónde está el momento ? ${\displaystyle m_{n}}$ ${\displaystyle n}$

Transformaciones lineales de variables aleatorias

Si la variable aleatoria tiene función generadora de momentos , entonces tiene función generadora de momentos ${\displaystyle X}$ ${\displaystyle M_{X}(t)}$ ${\displaystyle \alpha X+\beta }$ ${\displaystyle M_{\alpha X+\beta }(t)=e^{\beta t}M_{X}(\alpha t)}$

${\displaystyle M_{\alpha X+\beta }(t)=E[e^{(\alpha X+\beta )t}]=e^{\beta t}E[e^{\alpha Xt}]=e^{\beta t}M_{X}(\alpha t)}$

Combinación lineal de variables aleatorias independientes

Si , donde las X _i son variables aleatorias independientes y las a _i son constantes, entonces la función de densidad de probabilidad para S _n es la convolución de las funciones de densidad de probabilidad de cada una de las X _i , y la función generadora de momentos para S _n está dada por ${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i}}$

${\displaystyle M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\cdots M_{X_{n}}(a_{n}t)\,.}$

Variables aleatorias con valores vectoriales

Para variables aleatorias con valores vectoriales y componentes reales , la función generadora de momentos viene dada por ${\displaystyle \mathbf {X} }$

${\displaystyle M_{X}(\mathbf {t} )=E\left(e^{\langle \mathbf {t} ,\mathbf {X} \rangle }\right)}$

donde es un vector y es el producto escalar . ${\displaystyle \mathbf {t} }$ ${\displaystyle \langle \cdot ,\cdot \rangle }$

Propiedades importantes

Las funciones generadoras de momentos son positivas y log-convexas , ^{[ cita necesaria ]} con M (0) = 1.

Una propiedad importante de la función generadora de momentos es que determina de forma única la distribución. En otras palabras, si y son dos variables aleatorias y para todos los valores de  t , ${\displaystyle X}$ ${\displaystyle Y}$

${\displaystyle M_{X}(t)=M_{Y}(t),\,}$

entonces

${\displaystyle F_{X}(x)=F_{Y}(x)\,}$

para todos los valores de x (o equivalentemente X e Y tienen la misma distribución). Esta afirmación no es equivalente a la afirmación "si dos distribuciones tienen los mismos momentos, entonces son idénticos en todos los puntos". Esto se debe a que en algunos casos, los momentos existen y, sin embargo, la función generadora de momentos no, porque el límite

${\displaystyle \lim _{n\rightarrow \infty }\sum _{i=0}^{n}{\frac {t^{i}m_{i}}{i!}}}$

Puede que no exista. La distribución log-normal es un ejemplo de cuándo ocurre esto.

Cálculos de momentos

La función generadora de momentos se llama así porque si existe en un intervalo abierto alrededor de t  = 0, entonces es la función generadora exponencial de los momentos de la distribución de probabilidad :

${\displaystyle m_{n}=E\left(X^{n}\right)=M_{X}^{(n)}(0)=\left.{\frac {d^{n}M_{X}}{dt^{n}}}\right|_{t=0}.}$

Es decir, siendo n un número entero no negativo, el n -ésimo momento alrededor de 0 es la n -ésima derivada de la función generadora de momentos, evaluada en t = 0.

Otras propiedades

La desigualdad de Jensen proporciona un límite inferior simple para la función generadora de momentos:

${\displaystyle M_{X}(t)\geq e^{\mu t},}$

¿Dónde está la media de X ? ${\displaystyle \mu }$

La función generadora de momentos se puede utilizar junto con la desigualdad de Markov para limitar la cola superior de una variable aleatoria real X . Esta afirmación también se denomina límite de Chernoff . Dado que es monótonamente creciente para , tenemos ${\displaystyle x\mapsto e^{xt}}$ ${\displaystyle t>0}$

${\displaystyle P(X\geq a)=P(e^{tX}\geq e^{ta})\leq e^{-at}E[e^{tX}]=e^{-at}M_{X}(t)}$

Para cualquier y cualquier a , siempre que exista. Por ejemplo, cuando X es una distribución normal estándar y , podemos elegir y recordar que . Esto da , que está dentro de un factor de 1+ a del valor exacto. ${\displaystyle t>0}$ ${\displaystyle M_{X}(t)}$ ${\displaystyle a>0}$ ${\displaystyle t=a}$ ${\displaystyle M_{X}(t)=e^{t^{2}/2}}$ ${\displaystyle P(X\geq a)\leq e^{-a^{2}/2}}$

Varios lemas, como el lema de Hoeffding o la desigualdad de Bennett, proporcionan límites a la función generadora de momentos en el caso de una variable aleatoria acotada y de media cero.

Cuando no es negativo, la función generadora de momentos proporciona un límite simple y útil para los momentos: ${\displaystyle X}$

${\displaystyle E[X^{m}]\leq \left({\frac {m}{te}}\right)^{m}M_{X}(t),}$

Para cualquier y . ${\displaystyle X,m\geq 0}$ ${\displaystyle t>0}$

Esto se desprende de la desigualdad en la que podemos sustituir implica para cualquier . Ahora bien, si y , esto se puede reordenar a . Tomando la esperanza en ambos lados se obtiene el límite en en términos de . ${\displaystyle 1+x\leq e^{x}}$ ${\displaystyle x'=tx/m-1}$ ${\displaystyle tx/m\leq e^{tx/m-1}}$ ${\displaystyle x,t,m\in \mathbb {R} }$ ${\displaystyle t>0}$ ${\displaystyle x,m\geq 0}$ ${\displaystyle x^{m}\leq (m/(te))^{m}e^{tx}}$ ${\displaystyle E[X^{m}]}$ ${\displaystyle E[e^{tX}]}$

Como ejemplo, considere los grados de libertad. Luego, a partir de los ejemplos , seleccione y sustituya en el límite: ${\displaystyle X\sim {\text{Chi-Squared}}}$ ${\displaystyle k}$ ${\displaystyle M_{X}(t)=(1-2t)^{-k/2}}$ ${\displaystyle t=m/(2m+k)}$

${\displaystyle E[X^{m}]\leq (1+2m/k)^{k/2}e^{-m}(k+2m)^{m}.}$

Sabemos que en este caso el límite correcto es . Para comparar los límites, podemos considerar las asintóticas para valores grandes de . Aquí el límite de la función generadora de momentos es , donde el límite real es . Por lo tanto, el límite de la función generadora de momentos es muy fuerte en este caso. ${\displaystyle E[X^{m}]\leq 2^{m}\Gamma (m+k/2)/\Gamma (k/2)}$ ${\displaystyle k}$ ${\displaystyle k^{m}(1+m^{2}/k+O(1/k^{2}))}$ ${\displaystyle k^{m}(1+(m^{2}-m)/k+O(1/k^{2}))}$

Relación con otras funciones

Relacionadas con la función generadora de momentos existen otras transformaciones que son comunes en la teoría de probabilidad:

Función característica

La función característica está relacionada con la función generadora de momentos a través de la función característica es la función generadora de momentos de iX o la función generadora de momentos de X evaluada en el eje imaginario. Esta función también puede considerarse como la transformada de Fourier de la función de densidad de probabilidad , que por lo tanto puede deducirse de ella mediante la transformada de Fourier inversa. ${\displaystyle \varphi _{X}(t)}$ ${\displaystyle \varphi _{X}(t)=M_{iX}(t)=M_{X}(it):}$

Función generadora de cumulantes

La función generadora de cumulante se define como el logaritmo de la función generadora de momentos; algunos, en cambio, definen la función generadora de cumulante como el logaritmo de la función característica , mientras que otros llaman a esta última la segunda función generadora de cumulante.

Función generadora de probabilidad

La función generadora de probabilidad se define como Esto implica inmediatamente que ${\displaystyle G(z)=E\left[z^{X}\right].\,}$ ${\displaystyle G(e^{t})=E\left[e^{tX}\right]=M_{X}(t).\,}$

Véase también

• Función característica (teoría de la probabilidad)
• Función generadora de momentos factoriales
• Función de tasa
• Problema del momento de la hamburguesa

Referencias

Citas

1. Casella, George; Berger, Roger L. (1990). Inferencia estadística . Wadsworth & Brooks/Cole. pág. 61. ISBN 0-534-11958-1.
2. Bulmer, MG (1979). Principios de estadística . Dover. pp. 75–79. ISBN. 0-486-63760-3.
3. Kotz et al. ^{[ cita completa necesaria ]} p. 37 usando 1 como el número de grados de libertad para recuperar la distribución de Cauchy

Fuentes

• Casella, George; Berger, Roger (2002). Inferencia estadística (2.ª ed.). Págs. 59-68. ISBN 978-0-534-24312-8.