Variable aleatoria multivariante

Variable aleatoria con múltiples dimensiones de componentes

En probabilidad y estadística , una variable aleatoria multivariable o vector aleatorio es una lista o vector de variables matemáticas , cada una de las cuales tiene un valor desconocido, ya sea porque el valor aún no se ha producido o porque existe un conocimiento imperfecto de su valor. Las variables individuales de un vector aleatorio se agrupan porque todas son parte de un único sistema matemático; a menudo representan diferentes propiedades de una unidad estadística individual . Por ejemplo, mientras que una persona dada tiene una edad, una altura y un peso específicos, la representación de estas características de una persona no especificada dentro de un grupo sería un vector aleatorio. Normalmente, cada elemento de un vector aleatorio es un número real .

Los vectores aleatorios se utilizan a menudo como la implementación subyacente de varios tipos de variables aleatorias agregadas , por ejemplo, una matriz aleatoria , un árbol aleatorio , una secuencia aleatoria , un proceso estocástico , etc.

Formalmente, una variable aleatoria multivariada es un vector columna (o su transpuesta , que es un vector fila ) cuyos componentes son variables aleatorias en el espacio de probabilidad , donde es el espacio muestral , es el álgebra sigma (la colección de todos los eventos) y es la medida de probabilidad (una función que devuelve la probabilidad de cada evento ). ${\displaystyle \mathbf {X} =(X_{1},\dots ,X_{n})^{\mathsf {T}}}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle P}$

Distribución de probabilidad

Cada vector aleatorio da lugar a una medida de probabilidad cuyo álgebra sigma subyacente es el álgebra de Borel . Esta medida también se conoce como distribución de probabilidad conjunta , distribución conjunta o distribución multivariante del vector aleatorio. ${\displaystyle \mathbb {R} ^{n}}$

Las distribuciones de cada una de las variables aleatorias componentes se denominan distribuciones marginales . La distribución de probabilidad condicional de un valor dado es la distribución de probabilidad de cuando se sabe que es un valor particular. ${\displaystyle X_{i}}$ ${\displaystyle X_{i}}$ ${\displaystyle X_{j}}$ ${\displaystyle X_{i}}$ ${\displaystyle X_{j}}$

La función de distribución acumulativa de un vector aleatorio se define como ^{[1] : p.15} ${\displaystyle F_{\mathbf {X} }:\mathbb {R} ^{n}\mapsto [0,1]}$ ${\displaystyle \mathbf {X} =(X_{1},\dots ,X_{n})^{\mathsf {T}}}$

dónde . ${\displaystyle \mathbf {x} =(x_{1},\dots ,x_{n})^{\mathsf {T}}}$

Operaciones sobre vectores aleatorios

Los vectores aleatorios pueden estar sujetos a los mismos tipos de operaciones algebraicas que los vectores no aleatorios: suma, resta, multiplicación por un escalar y obtención de productos internos .

Transformaciones afines

De manera similar, se puede definir un nuevo vector aleatorio aplicando una transformación afín a un vector aleatorio : ${\displaystyle \mathbf {Y} }$ ${\displaystyle g\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}}$ ${\displaystyle \mathbf {X} }$

${\displaystyle \mathbf {Y} =\mathbf {A} \mathbf {X} +b}$, donde es una matriz y es un vector columna. ${\displaystyle \mathbf {A} }$ ${\displaystyle n\times n}$ ${\displaystyle b}$ ${\displaystyle n\times 1}$

Si es una matriz invertible y tiene una función de densidad de probabilidad , entonces la densidad de probabilidad de es ${\displaystyle \mathbf {A} }$ ${\displaystyle \textstyle \mathbf {X} }$ ${\displaystyle f_{\mathbf {X} }}$ ${\displaystyle \mathbf {Y} }$

${\displaystyle f_{\mathbf {Y} }(y)={\frac {f_{\mathbf {X} }(\mathbf {A} ^{-1}(y-b))}{|\det \mathbf {A} |}}}$.

Mapeos invertibles

De manera más general, podemos estudiar aplicaciones invertibles de vectores aleatorios. ^{[2] : p.290–291}

Sea una función biunívoca de un subconjunto abierto de sobre un subconjunto de , sea que tenga derivadas parciales continuas en y sea que el determinante jacobiano de sea cero en ningún punto de . Supongamos que el vector aleatorio real tiene una función de densidad de probabilidad y satisface . Entonces el vector aleatorio tiene una densidad de probabilidad ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle {\mathcal {R}}}$ ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle f_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle P(\mathbf {X} \in {\mathcal {D}})=1}$ ${\displaystyle \mathbf {Y} =g(\mathbf {X} )}$

${\displaystyle \left.f_{\mathbf {Y} }(\mathbf {y} )={\frac {f_{\mathbf {X} }(\mathbf {x} )}{\left|\det {\frac {\partial \mathbf {x} }{\partial \mathbf {y} }}\right|}}\right|_{\mathbf {x} =g^{-1}(\mathbf {y} )}\mathbf {1} (\mathbf {y} \in R_{\mathbf {Y} })}$

donde denota la función del indicador y el conjunto denota el soporte de . ${\displaystyle \mathbf {1} }$ ${\displaystyle R_{\mathbf {Y} }=\{\mathbf {y} =g(\mathbf {x} ):f_{\mathbf {X} }(\mathbf {x} )>0\}\subseteq {\mathcal {R}}}$ ${\displaystyle \mathbf {Y} }$

Valor esperado

El valor esperado o media de un vector aleatorio es un vector fijo cuyos elementos son los valores esperados de las respectivas variables aleatorias. ^{[3] : p.333} ${\displaystyle \mathbf {X} }$ ${\displaystyle \operatorname {E} [\mathbf {X} ]}$

Covarianza y covarianza cruzada

Definiciones

La matriz de covarianza (también llamada segundo momento central o matriz de varianza-covarianza) de un vector aleatorio es una matriz cuyo ^elemento ( i,j ) es la covarianza entre las ^{variables aleatorias} i y j . La matriz de covarianza es el valor esperado, elemento por elemento, de la matriz calculada como , donde el superíndice T se refiere a la transpuesta del vector indicado: ^{[2] : p. 464  [3] : p. 335} ${\displaystyle n\times 1}$ ${\displaystyle n\times n}$ ${\displaystyle n\times n}$ ${\displaystyle [\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {X} -\operatorname {E} [\mathbf {X} ]]^{T}}$

Por extensión, la matriz de covarianza cruzada entre dos vectores aleatorios y ( que tienen elementos y que tienen elementos) es la matriz ^{[3] : p.336} ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle p}$ ${\displaystyle n\times p}$

donde nuevamente la expectativa matricial se toma elemento por elemento en la matriz. Aquí el elemento ( ⁱ ,j ) es la covarianza entre el ^elemento i de y el ^elemento j de . ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$

Propiedades

La matriz de covarianza es una matriz simétrica , es decir ^{[2] : p. 466}

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }^{T}=\operatorname {K} _{\mathbf {X} \mathbf {X} }}$.

La matriz de covarianza es una matriz semidefinida positiva , es decir ^{[2] : p. 465}

${\displaystyle \mathbf {a} ^{T}\operatorname {K} _{\mathbf {X} \mathbf {X} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {R} ^{n}}$.

La matriz de covarianza cruzada es simplemente la transposición de la matriz , es decir ${\displaystyle \operatorname {Cov} [\mathbf {Y} ,\mathbf {X} ]}$ ${\displaystyle \operatorname {Cov} [\mathbf {X} ,\mathbf {Y} ]}$

${\displaystyle \operatorname {K} _{\mathbf {Y} \mathbf {X} }=\operatorname {K} _{\mathbf {X} \mathbf {Y} }^{T}}$.

Falta de correlación

Dos vectores aleatorios y se denominan no correlacionados si ${\displaystyle \mathbf {X} =(X_{1},...,X_{m})^{T}}$ ${\displaystyle \mathbf {Y} =(Y_{1},...,Y_{n})^{T}}$

${\displaystyle \operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]=\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$.

No están correlacionados si y sólo si su matriz de covarianza cruzada es cero. ^{[3] : p.337} ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}$

Correlación y correlación cruzada

Definiciones

La matriz de correlación (también llamada segundo momento ) de un vector aleatorio es una matriz cuyo ^elemento ( i,j ) es la correlación entre las ^{variables aleatorias} i y j . La matriz de correlación es el valor esperado, elemento por elemento, de la ^matriz calculada como , donde el superíndice T se refiere a la transpuesta del vector indicado: ^{[4] : p.190  [3] : p.334} ${\displaystyle n\times 1}$ ${\displaystyle n\times n}$ ${\displaystyle n\times n}$ ${\displaystyle \mathbf {X} \mathbf {X} ^{T}}$

Por extensión, la matriz de correlación cruzada entre dos vectores aleatorios y ( que tienen elementos y que tienen elementos) es la matriz ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle p}$ ${\displaystyle n\times p}$

Propiedades

La matriz de correlación está relacionada con la matriz de covarianza por

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }=\operatorname {K} _{\mathbf {X} \mathbf {X} }+\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{T}}$.

De manera similar para la matriz de correlación cruzada y la matriz de covarianza cruzada:

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }=\operatorname {K} _{\mathbf {X} \mathbf {Y} }+\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$

Ortogonalidad

Dos vectores aleatorios del mismo tamaño se denominan ortogonales si ${\displaystyle \mathbf {X} =(X_{1},...,X_{n})^{T}}$ ${\displaystyle \mathbf {Y} =(Y_{1},...,Y_{n})^{T}}$

${\displaystyle \operatorname {E} [\mathbf {X} ^{T}\mathbf {Y} ]=0}$.

Independencia

Dos vectores aleatorios y se llaman independientes si para todos y ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {y} }$

${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )}$

donde y denotan las funciones de distribución acumulativa de y y denotan su función de distribución acumulativa conjunta. La independencia de y a menudo se denota por . Escritos por componentes, y se denominan independientes si para todos ${\displaystyle F_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}}$

${\displaystyle F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})}$.

Función característica

La función característica de un vector aleatorio con componentes es una función que asigna a cada vector un número complejo. Se define en ^{[2] : p. 468} ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbb {R} ^{n}\to \mathbb {C} }$ ${\displaystyle \mathbf {\omega } =(\omega _{1},\ldots ,\omega _{n})^{T}}$

${\displaystyle \varphi _{\mathbf {X} }(\mathbf {\omega } )=\operatorname {E} \left[e^{i(\mathbf {\omega } ^{T}\mathbf {X} )}\right]=\operatorname {E} \left[e^{i(\omega _{1}X_{1}+\ldots +\omega _{n}X_{n})}\right]}$.

Otras propiedades

Expectativa de una forma cuadrática

Se puede tomar la expectativa de una forma cuadrática en el vector aleatorio de la siguiente manera: ^{[5] : p.170–171} ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {E} [\mathbf {X} ^{T}A\mathbf {X} ]=\operatorname {E} [\mathbf {X} ]^{T}A\operatorname {E} [\mathbf {X} ]+\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} }),}$

donde es la matriz de covarianza de y se refiere a la traza de una matriz, es decir, a la suma de los elementos en su diagonal principal (de arriba a la izquierda a abajo a la derecha). Como la forma cuadrática es un escalar, también lo es su esperanza. ${\displaystyle K_{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \operatorname {tr} }$

Demostración : Sea un vector aleatorio con y y sea una matriz no estocástica. ${\displaystyle \mathbf {z} }$ ${\displaystyle m\times 1}$ ${\displaystyle \operatorname {E} [\mathbf {z} ]=\mu }$ ${\displaystyle \operatorname {Cov} [\mathbf {z} ]=V}$ ${\displaystyle A}$ ${\displaystyle m\times m}$

Entonces, basándonos en la fórmula de la covarianza, si denotamos y , vemos que: ${\displaystyle \mathbf {z} ^{T}=\mathbf {X} }$ ${\displaystyle \mathbf {z} ^{T}A^{T}=\mathbf {Y} }$

${\displaystyle \operatorname {Cov} [\mathbf {X} ,\mathbf {Y} ]=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$

Por eso

${\displaystyle {\begin{aligned}\operatorname {E} [XY^{T}]&=\operatorname {Cov} [X,Y]+\operatorname {E} [X]\operatorname {E} [Y]^{T}\\\operatorname {E} [z^{T}Az]&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\operatorname {E} [z^{T}]\operatorname {E} [z^{T}A^{T}]^{T}\\&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\mu ^{T}(\mu ^{T}A^{T})^{T}\\&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\mu ^{T}A\mu ,\end{aligned}}}$

lo que nos lleva a demostrar que

${\displaystyle \operatorname {Cov} [z^{T},z^{T}A^{T}]=\operatorname {tr} (AV).}$

Esto es cierto debido al hecho de que uno puede permutar matrices cíclicamente al tomar un rastro sin cambiar el resultado final (por ejemplo: ). ${\displaystyle \operatorname {tr} (AB)=\operatorname {tr} (BA)}$

Vemos que

${\displaystyle {\begin{aligned}\operatorname {Cov} [z^{T},z^{T}A^{T}]&=\operatorname {E} \left[\left(z^{T}-E(z^{T})\right)\left(z^{T}A^{T}-E\left(z^{T}A^{T}\right)\right)^{T}\right]\\&=\operatorname {E} \left[(z^{T}-\mu ^{T})(z^{T}A^{T}-\mu ^{T}A^{T})^{T}\right]\\&=\operatorname {E} \left[(z-\mu )^{T}(Az-A\mu )\right].\end{aligned}}}$

Y desde entonces

${\displaystyle \left({z-\mu }\right)^{T}\left({Az-A\mu }\right)}$

es un escalar , entonces

${\displaystyle (z-\mu )^{T}(Az-A\mu )=\operatorname {tr} \left({(z-\mu )^{T}(Az-A\mu )}\right)=\operatorname {tr} \left((z-\mu )^{T}A(z-\mu )\right)}$

trivialmente. Usando la permutación obtenemos:

${\displaystyle \operatorname {tr} \left({(z-\mu )^{T}A(z-\mu )}\right)=\operatorname {tr} \left({A(z-\mu )(z-\mu )^{T}}\right),}$

Y al introducir esto en la fórmula original obtenemos:

${\displaystyle {\begin{aligned}\operatorname {Cov} \left[{z^{T},z^{T}A^{T}}\right]&=E\left[{\left({z-\mu }\right)^{T}(Az-A\mu )}\right]\\&=E\left[\operatorname {tr} \left(A(z-\mu )(z-\mu )^{T}\right)\right]\\&=\operatorname {tr} \left({A\cdot \operatorname {E} \left((z-\mu )(z-\mu )^{T}\right)}\right)\\&=\operatorname {tr} (AV).\end{aligned}}}$

Expectativa del producto de dos formas cuadráticas diferentes

Se puede tomar la expectativa del producto de dos formas cuadráticas diferentes en un vector aleatorio gaussiano de media cero de la siguiente manera: ^{[5] : pp. 162–176} ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {E} \left[(\mathbf {X} ^{T}A\mathbf {X} )(\mathbf {X} ^{T}B\mathbf {X} )\right]=2\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} }BK_{\mathbf {X} \mathbf {X} })+\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} })\operatorname {tr} (BK_{\mathbf {X} \mathbf {X} })}$

donde nuevamente es la matriz de covarianza de . Nuevamente, dado que ambas formas cuadráticas son escalares y, por lo tanto, su producto es un escalar, la esperanza de su producto también es un escalar. ${\displaystyle K_{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \mathbf {X} }$

Aplicaciones

Teoría de cartera

En la teoría de carteras en finanzas , un objetivo a menudo es elegir una cartera de activos riesgosos de manera que la distribución del rendimiento aleatorio de la cartera tenga propiedades deseables. Por ejemplo, uno podría querer elegir el rendimiento de la cartera que tenga la varianza más baja para un valor esperado dado. Aquí el vector aleatorio es el vector de rendimientos aleatorios de los activos individuales, y el rendimiento de la cartera p (un escalar aleatorio) es el producto interno del vector de rendimientos aleatorios con un vector w de pesos de la cartera: las fracciones de la cartera colocadas en los respectivos activos. Como p = w ^T , el valor esperado del rendimiento de la cartera es w ^T E( ) y la varianza del rendimiento de la cartera puede demostrarse como w ^T C w , donde C es la matriz de covarianza de . ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$

Teoría de la regresión

En la teoría de la regresión lineal , tenemos datos sobre n observaciones de una variable dependiente y y n observaciones de cada una de las k variables independientes x _j . Las observaciones de la variable dependiente se apilan en un vector columna y ; las observaciones de cada variable independiente también se apilan en vectores columna, y estos últimos vectores columna se combinan en una matriz de diseño X (que no denota un vector aleatorio en este contexto) de observaciones de las variables independientes. Luego, se postula la siguiente ecuación de regresión como una descripción del proceso que generó los datos:

${\displaystyle y=X\beta +e,}$

donde β es un vector fijo pero desconocido postulado de k coeficientes de respuesta, y e es un vector aleatorio desconocido que refleja influencias aleatorias sobre la variable dependiente. Mediante alguna técnica elegida, como los mínimos cuadrados ordinarios , se elige un vector como estimación de β, y la estimación del vector e , denotada , se calcula como ${\displaystyle {\hat {\beta }}}$ ${\displaystyle {\hat {e}}}$

${\displaystyle {\hat {e}}=y-X{\hat {\beta }}.}$

Luego, el estadístico debe analizar las propiedades de y , que se consideran vectores aleatorios ya que una selección aleatoriamente diferente de n casos para observar habría resultado en valores diferentes para ellos. ${\displaystyle {\hat {\beta }}}$ ${\displaystyle {\hat {e}}}$

Series temporales vectoriales

La evolución de un vector aleatorio k ×1 a través del tiempo se puede modelar como una autorregresión vectorial (VAR) de la siguiente manera: ${\displaystyle \mathbf {X} }$

${\displaystyle \mathbf {X} _{t}=c+A_{1}\mathbf {X} _{t-1}+A_{2}\mathbf {X} _{t-2}+\cdots +A_{p}\mathbf {X} _{t-p}+\mathbf {e} _{t},\,}$

donde la observación del vector i -periodos atrás se denomina i -ésimo rezago de , c es un vector k  × 1 de constantes ( intersecciones ), A _i es una matriz k  ×  k invariante en el tiempo y es un vector aleatorio k  × 1 de términos de error . ${\displaystyle \mathbf {X} _{t-i}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {e} _{t}}$

Referencias

1. Gallager, Robert G. (2013). Teoría de procesos estocásticos para aplicaciones . Cambridge University Press. ISBN 978-1-107-03975-9.
2. Lapidoth, Amos (2009). Una base para la comunicación digital . Cambridge University Press. ISBN 978-0-521-19395-5.
3. Gubner, John A. (2006). Probabilidad y procesos aleatorios para ingenieros eléctricos e informáticos . Cambridge University Press. ISBN 978-0-521-86470-1.
4. Papoulis, Athanasius (1991). Probabilidad, variables aleatorias y procesos estocásticos (tercera edición). McGraw-Hill. ISBN 0-07-048477-5.
5. Kendrick, David (1981). Control estocástico para modelos económicos . McGraw-Hill. ISBN 0-07-033962-7.

Lectura adicional

• Stark, Henry; Woods, John W. (2012). "Vectores aleatorios". Probabilidad, estadística y procesos aleatorios para ingenieros (cuarta edición). Pearson. págs. 295–339. ISBN 978-0-13-231123-6.