Variable aleatoria multivariada

Variable aleatoria con múltiples dimensiones de componentes.

En probabilidad y estadística , una variable aleatoria multivariante o vector aleatorio es una lista o vector de variables matemáticas cada una de cuyo valor se desconoce, ya sea porque el valor aún no ha ocurrido o porque existe un conocimiento imperfecto de su valor. Las variables individuales en un vector aleatorio se agrupan porque son todas parte de un único sistema matemático; a menudo representan diferentes propiedades de una unidad estadística individual . Por ejemplo, mientras una persona determinada tiene una edad, altura y peso específicos, la representación de estas características de una persona no especificada dentro de un grupo sería un vector aleatorio. Normalmente cada elemento de un vector aleatorio es un número real .

Los vectores aleatorios se utilizan a menudo como implementación subyacente de varios tipos de variables aleatorias agregadas , por ejemplo, una matriz aleatoria , un árbol aleatorio , una secuencia aleatoria , un proceso estocástico , etc.

Más formalmente, una variable aleatoria multivariada es un vector columna (o su transposición , que es un vector fila ) cuyos componentes son variables aleatorias con valores escalares en el mismo espacio de probabilidad entre sí, donde es el espacio muestral , es el sigma- álgebra (la colección de todos los eventos) y es la medida de probabilidad (una función que devuelve la probabilidad de cada evento ). ${\displaystyle \mathbf {X} =(X_{1},\dots ,X_{n})^{\mathsf {T}}}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle P}$

Distribución de probabilidad

Cada vector aleatorio da lugar a una medida de probabilidad con el álgebra de Borel como álgebra sigma subyacente. Esta medida también se conoce como distribución de probabilidad conjunta , distribución conjunta o distribución multivariada del vector aleatorio. ${\displaystyle \mathbb {R} ^{n}}$

Las distribuciones de cada una de las variables aleatorias componentes se denominan distribuciones marginales . La distribución de probabilidad condicional de dado es la distribución de probabilidad de cuando se sabe que es un valor particular. ${\displaystyle X_{i}}$ ${\displaystyle X_{i}}$ ${\displaystyle X_{j}}$ ${\displaystyle X_{i}}$ ${\displaystyle X_{j}}$

La función de distribución acumulativa de un vector aleatorio se define como ^{[1] : p.15} ${\displaystyle F_{\mathbf {X} }:\mathbb {R} ^{n}\mapsto [0,1]}$ ${\displaystyle \mathbf {X} =(X_{1},\dots ,X_{n})^{\mathsf {T}}}$

dónde . ${\displaystyle \mathbf {x} =(x_{1},\dots ,x_{n})^{\mathsf {T}}}$

Operaciones sobre vectores aleatorios

Los vectores aleatorios pueden someterse a los mismos tipos de operaciones algebraicas que los vectores no aleatorios: suma, resta, multiplicación por un escalar y toma de productos internos .

Transformaciones afines

De manera similar, se puede definir un nuevo vector aleatorio aplicando una transformación afín a un vector aleatorio : ${\displaystyle \mathbf {Y} }$ ${\displaystyle g\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}}$ ${\displaystyle \mathbf {X} }$

${\displaystyle \mathbf {Y} =\mathbf {A} \mathbf {X} +b}$, donde es una matriz y es un vector columna. ${\displaystyle \mathbf {A} }$ ${\displaystyle n\times n}$ ${\displaystyle b}$ ${\displaystyle n\times 1}$

Si es una matriz invertible y tiene una función de densidad de probabilidad , entonces la densidad de probabilidad de es ${\displaystyle \mathbf {A} }$ ${\displaystyle \textstyle \mathbf {X} }$ ${\displaystyle f_{\mathbf {X} }}$ ${\displaystyle \mathbf {Y} }$

${\displaystyle f_{\mathbf {Y} }(y)={\frac {f_{\mathbf {X} }(\mathbf {A} ^{-1}(y-b))}{|\det \mathbf {A} |}}}$.

Mapeos reversibles

De manera más general, podemos estudiar mapeos invertibles de vectores aleatorios. ^{[2] : páginas 290–291}

Sea un mapeo uno a uno de un subconjunto abierto de sobre un subconjunto de , tengamos derivadas parciales continuas y dejemos que el determinante jacobiano de sea cero en ningún punto de . Supongamos que el vector aleatorio real tiene una función de densidad de probabilidad y satisface . Entonces el vector aleatorio es de densidad de probabilidad. ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle {\mathcal {R}}}$ ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle g}$ ${\displaystyle {\mathcal {D}}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle f_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle P(\mathbf {X} \in {\mathcal {D}})=1}$ ${\displaystyle \mathbf {Y} =g(\mathbf {X} )}$

${\displaystyle \left.f_{\mathbf {Y} }(\mathbf {y} )={\frac {f_{\mathbf {Z} }(\mathbf {z} )}{\left|\det {\frac {\partial \mathbf {z} }{\partial \mathbf {y} }}\right|}}\right|_{\mathbf {z} =g^{-1}(\mathbf {y} )}\mathbf {1} (\mathbf {y} \in R_{\mathbf {Y} })}$

donde denota la función del indicador y conjunto denota soporte de . ${\displaystyle \mathbf {1} }$ ${\displaystyle R_{\mathbf {Y} }=\{\mathbf {y} =g(\mathbf {x} ):f_{\mathbf {X} }(\mathbf {x} )>0\}\subseteq {\mathcal {R}}}$ ${\displaystyle \mathbf {Y} }$

Valor esperado

El valor esperado o media de un vector aleatorio es un vector fijo cuyos elementos son los valores esperados de las respectivas variables aleatorias. ^{[3] : p.333} ${\displaystyle \mathbf {X} }$ ${\displaystyle \operatorname {E} [\mathbf {X} ]}$

Covarianza y covarianza cruzada

Definiciones

La matriz de covarianza (también llamada segundo momento central o matriz de varianza-covarianza) de un vector aleatorio es una matriz cuyo ( i,j ) ^ésimo elemento es la covarianza entre las i ^-ésima y j ^- ésima variables aleatorias. La matriz de covarianza es el valor esperado, elemento por elemento, de la matriz calculada como , donde el superíndice T se refiere a la transpuesta del vector indicado: ^{[2] : p. 464  [3] : p.335} ${\displaystyle n\times 1}$ ${\displaystyle n\times n}$ ${\displaystyle n\times n}$ ${\displaystyle [\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {X} -\operatorname {E} [\mathbf {X} ]]^{T}}$

Por extensión, la matriz de covarianza cruzada entre dos vectores aleatorios y ( que tienen elementos y que tienen elementos) es la matriz ^{[3] : p.336} ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle p}$ ${\displaystyle n\times p}$

donde nuevamente la expectativa de la matriz se toma elemento por elemento en la matriz. Aquí el ( i,j ) ^ésimo elemento es la covarianza entre el i ^ésimo elemento de y el j ^ésimo elemento de . ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$

Propiedades

La matriz de covarianza es una matriz simétrica , es decir ^{[2] : p. 466}

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }^{T}=\operatorname {K} _{\mathbf {X} \mathbf {X} }}$.

La matriz de covarianza es una matriz semidefinida positiva , es decir ^{[2] : p. 465}

${\displaystyle \mathbf {a} ^{T}\operatorname {K} _{\mathbf {X} \mathbf {X} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {R} ^{n}}$.

La matriz de covarianza cruzada es simplemente la transpuesta de la matriz , es decir ${\displaystyle \operatorname {Cov} [\mathbf {Y} ,\mathbf {X} ]}$ ${\displaystyle \operatorname {Cov} [\mathbf {X} ,\mathbf {Y} ]}$

${\displaystyle \operatorname {K} _{\mathbf {Y} \mathbf {X} }=\operatorname {K} _{\mathbf {X} \mathbf {Y} }^{T}}$.

Descorrelación

Dos vectores aleatorios y se llaman no correlacionados si ${\displaystyle \mathbf {X} =(X_{1},...,X_{m})^{T}}$ ${\displaystyle \mathbf {Y} =(Y_{1},...,Y_{n})^{T}}$

${\displaystyle \operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]=\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$.

No están correlacionados si y sólo si su matriz de covarianza cruzada es cero. ^{[3] : p.337} ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}$

Correlación y correlación cruzada

Definiciones

La matriz de correlación (también llamada segundo momento ) de un vector aleatorio es una matriz cuyo ( i,j ) ^ésimo elemento es la correlación entre las i ^-ésima y j ^- ésima variables aleatorias. La matriz de correlación es el valor esperado, elemento por elemento, de la matriz calculada como , donde el superíndice T se refiere a la transpuesta del vector indicado: ^{[4] : p.190  [3] : p.334} ${\displaystyle n\times 1}$ ${\displaystyle n\times n}$ ${\displaystyle n\times n}$ ${\displaystyle \mathbf {X} \mathbf {X} ^{T}}$

Por extensión, la matriz de correlación cruzada entre dos vectores aleatorios y ( que tienen elementos y que tienen elementos) es la matriz ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle p}$ ${\displaystyle n\times p}$

Propiedades

La matriz de correlación está relacionada con la matriz de covarianza por

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }=\operatorname {K} _{\mathbf {X} \mathbf {X} }+\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{T}}$.

De manera similar para la matriz de correlación cruzada y la matriz de covarianza cruzada:

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }=\operatorname {K} _{\mathbf {X} \mathbf {Y} }+\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$

Ortogonalidad

Dos vectores aleatorios del mismo tamaño y se llaman ortogonales si ${\displaystyle \mathbf {X} =(X_{1},...,X_{n})^{T}}$ ${\displaystyle \mathbf {Y} =(Y_{1},...,Y_{n})^{T}}$

${\displaystyle \operatorname {E} [\mathbf {X} ^{T}\mathbf {Y} ]=0}$.

Independencia

Dos vectores aleatorios y se llaman independientes si para todos y ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {y} }$

${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )}$

donde y denota las funciones de distribución acumulativa de y y denota su función de distribución acumulativa conjunta. La independencia de y a menudo se denota por . Se escriben por componentes y se denominan independientes si para todos ${\displaystyle F_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}}$

${\displaystyle F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})}$.

Función característica

La función característica de un vector aleatorio con componentes es una función que asigna cada vector a un número complejo. Está definido por ^{[2] : p. 468} ${\displaystyle \mathbf {X} }$ ${\displaystyle n}$ ${\displaystyle \mathbb {R} ^{n}\to \mathbb {C} }$ ${\displaystyle \mathbf {\omega } =(\omega _{1},\ldots ,\omega _{n})^{T}}$

${\displaystyle \varphi _{\mathbf {X} }(\mathbf {\omega } )=\operatorname {E} \left[e^{i(\mathbf {\omega } ^{T}\mathbf {X} )}\right]=\operatorname {E} \left[e^{i(\omega _{1}X_{1}+\ldots +\omega _{n}X_{n})}\right]}$.

Otras propiedades

Expectativa de una forma cuadrática

Se puede tomar la expectativa de una forma cuadrática en el vector aleatorio de la siguiente manera: ^{[5] : p.170–171} ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {E} [\mathbf {X} ^{T}A\mathbf {X} ]=\operatorname {E} [\mathbf {X} ]^{T}A\operatorname {E} [\mathbf {X} ]+\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} }),}$

donde es la matriz de covarianza y se refiere a la traza de una matriz, es decir, a la suma de los elementos en su diagonal principal (de arriba a la izquierda a abajo a la derecha). Dado que la forma cuadrática es escalar, también lo es su expectativa. ${\displaystyle K_{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \operatorname {tr} }$

Prueba : Sea un vector aleatorio con y y sea una matriz no estocástica. ${\displaystyle \mathbf {z} }$ ${\displaystyle m\times 1}$ ${\displaystyle \operatorname {E} [\mathbf {z} ]=\mu }$ ${\displaystyle \operatorname {Cov} [\mathbf {z} ]=V}$ ${\displaystyle A}$ ${\displaystyle m\times m}$

Luego, basándonos en la fórmula de la covarianza, si denotamos y , vemos que: ${\displaystyle \mathbf {z} ^{T}=\mathbf {X} }$ ${\displaystyle \mathbf {z} ^{T}A^{T}=\mathbf {Y} }$

${\displaystyle \operatorname {Cov} [\mathbf {X} ,\mathbf {Y} ]=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}$

Por eso

${\displaystyle {\begin{aligned}\operatorname {E} [XY^{T}]&=\operatorname {Cov} [X,Y]+\operatorname {E} [X]\operatorname {E} [Y]^{T}\\\operatorname {E} [z^{T}Az]&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\operatorname {E} [z^{T}]\operatorname {E} [z^{T}A^{T}]^{T}\\&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\mu ^{T}(\mu ^{T}A^{T})^{T}\\&=\operatorname {Cov} [z^{T},z^{T}A^{T}]+\mu ^{T}A\mu ,\end{aligned}}}$

lo que nos deja demostrar que

${\displaystyle \operatorname {Cov} [z^{T},z^{T}A^{T}]=\operatorname {tr} (AV).}$

Esto es cierto basándose en el hecho de que se pueden permutar matrices cíclicamente al realizar un seguimiento sin cambiar el resultado final (por ejemplo :). ${\displaystyle \operatorname {tr} (AB)=\operatorname {tr} (BA)}$

Vemos eso

${\displaystyle {\begin{aligned}\operatorname {Cov} [z^{T},z^{T}A^{T}]&=\operatorname {E} \left[\left(z^{T}-E(z^{T})\right)\left(z^{T}A^{T}-E\left(z^{T}A^{T}\right)\right)^{T}\right]\\&=\operatorname {E} \left[(z^{T}-\mu ^{T})(z^{T}A^{T}-\mu ^{T}A^{T})^{T}\right]\\&=\operatorname {E} \left[(z-\mu )^{T}(Az-A\mu )\right].\end{aligned}}}$

Y desde

${\displaystyle \left({z-\mu }\right)^{T}\left({Az-A\mu }\right)}$

es un escalar , entonces

${\displaystyle (z-\mu )^{T}(Az-A\mu )=\operatorname {tr} \left({(z-\mu )^{T}(Az-A\mu )}\right)=\operatorname {tr} \left((z-\mu )^{T}A(z-\mu )\right)}$

trivialmente. Usando la permutación obtenemos:

${\displaystyle \operatorname {tr} \left({(z-\mu )^{T}A(z-\mu )}\right)=\operatorname {tr} \left({A(z-\mu )(z-\mu )^{T}}\right),}$

y al introducir esto en la fórmula original obtenemos:

${\displaystyle {\begin{aligned}\operatorname {Cov} \left[{z^{T},z^{T}A^{T}}\right]&=E\left[{\left({z-\mu }\right)^{T}(Az-A\mu )}\right]\\&=E\left[\operatorname {tr} \left(A(z-\mu )(z-\mu )^{T}\right)\right]\\&=\operatorname {tr} \left({A\cdot \operatorname {E} \left((z-\mu )(z-\mu )^{T}\right)}\right)\\&=\operatorname {tr} (AV).\end{aligned}}}$

Expectativa del producto de dos formas cuadráticas diferentes.

Se puede tomar la expectativa del producto de dos formas cuadráticas diferentes en un vector aleatorio gaussiano de media cero de la siguiente manera: ^{[5] : págs.} ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {E} \left[(\mathbf {X} ^{T}A\mathbf {X} )(\mathbf {X} ^{T}B\mathbf {X} )\right]=2\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} }BK_{\mathbf {X} \mathbf {X} })+\operatorname {tr} (AK_{\mathbf {X} \mathbf {X} })\operatorname {tr} (BK_{\mathbf {X} \mathbf {X} })}$

donde nuevamente está la matriz de covarianza de . Nuevamente, dado que ambas formas cuadráticas son escalares y, por tanto, su producto es un escalar, la expectativa de su producto también es un escalar. ${\displaystyle K_{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \mathbf {X} }$

Aplicaciones

Teoría de la cartera

En la teoría de carteras en finanzas , un objetivo a menudo es elegir una cartera de activos riesgosos de manera que la distribución del rendimiento aleatorio de la cartera tenga propiedades deseables. Por ejemplo, es posible que deseemos elegir el rendimiento de la cartera que tenga la varianza más baja para un valor esperado determinado. Aquí el vector aleatorio es el vector de rendimientos aleatorios de los activos individuales, y el rendimiento de la cartera p (un escalar aleatorio) es el producto interno del vector de rendimientos aleatorios con un vector w de ponderaciones de la cartera: las fracciones de la cartera colocadas en los respectivos bienes. Dado que p = w ^T , el valor esperado del rendimiento de la cartera es w ^T E( ) y se puede demostrar que la varianza del rendimiento de la cartera es w ^T C w , donde C es la matriz de covarianza de . ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$ ${\displaystyle \mathbf {r} }$

Teoría de la regresión

En la teoría de la regresión lineal , tenemos datos sobre n observaciones de una variable dependiente y y n observaciones de cada una de las k variables independientes x _j . Las observaciones de la variable dependiente se apilan en un vector de columna y ; las observaciones de cada variable independiente también se apilan en vectores de columna, y estos últimos vectores de columna se combinan en una matriz de diseño X (que no denota un vector aleatorio en este contexto) de observaciones de las variables independientes. Luego se postula la siguiente ecuación de regresión como descripción del proceso que generó los datos:

${\displaystyle y=X\beta +e,}$

donde β es un vector postulado fijo pero desconocido de k coeficientes de respuesta, y e es un vector aleatorio desconocido que refleja influencias aleatorias sobre la variable dependiente. Mediante alguna técnica elegida, como los mínimos cuadrados ordinarios , se elige un vector como estimación de β, y la estimación del vector e , denotado , se calcula como ${\displaystyle {\hat {\beta }}}$ ${\displaystyle {\hat {e}}}$

${\displaystyle {\hat {e}}=y-X{\hat {\beta }}.}$

Luego, el estadístico debe analizar las propiedades de y , que se consideran vectores aleatorios, ya que una selección aleatoriamente diferente de n casos para observar habría dado como resultado valores diferentes para ellos. ${\displaystyle {\hat {\beta }}}$ ${\displaystyle {\hat {e}}}$

Serie de tiempo vectorial

La evolución de un vector aleatorio k ×1 a lo largo del tiempo se puede modelar como un vector autorregresivo (VAR) de la siguiente manera: ${\displaystyle \mathbf {X} }$

${\displaystyle \mathbf {X} _{t}=c+A_{1}\mathbf {X} _{t-1}+A_{2}\mathbf {X} _{t-2}+\cdots +A_{p}\mathbf {X} _{t-p}+\mathbf {e} _{t},\,}$

donde la observación del vector de i períodos atrás se llama i -ésimo retraso de , c es un  vector k × 1 de constantes ( intersecciones ), A _i es una matriz k  ×  k invariante en el tiempo y es un  vector aleatorio k × 1 de términos de error . ${\displaystyle \mathbf {X} _{t-i}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {e} _{t}}$

Referencias

1. Gallager, Robert G. (2013). Teoría de procesos estocásticos para aplicaciones . Prensa de la Universidad de Cambridge. ISBN 978-1-107-03975-9.
2. Lapidoth, Amós (2009). Una Fundación en Comunicación Digital . Prensa de la Universidad de Cambridge. ISBN 978-0-521-19395-5.
3. Gubner, John A. (2006). Probabilidad y Procesos Aleatorios para Ingenieros Eléctricos e Informáticos . Prensa de la Universidad de Cambridge. ISBN 978-0-521-86470-1.
4. Papoulis, Atanasio (1991). Probabilidad, variables aleatorias y procesos estocásticos (Tercera ed.). McGraw-Hill. ISBN 0-07-048477-5.
5. Kendrick, David (1981). Control estocástico para modelos económicos . McGraw-Hill. ISBN 0-07-033962-7.

Otras lecturas

• Rígido, Henry; Bosques, John W. (2012). "Vectores aleatorios". Probabilidad, estadística y procesos aleatorios para ingenieros (Cuarta ed.). Pearson. págs. 295–339. ISBN 978-0-13-231123-6.