cociente de Rayleigh

Constructo para matrices hermitianas

En matemáticas , el cociente de Rayleigh ^[1] ( / ˈ r eɪ . l i / ) para una matriz hermitiana compleja dada y un vector distinto de cero se define como: ^{[2] [3]} ${\displaystyle M}$ ${\displaystyle x}$

$${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}.}$$

simétricotranspuesta conjugada a la transpuestadiagonalizable sólo con valores propios realesvalor propiovector propio^[4] ${\displaystyle x^{*}}$ ${\displaystyle x'}$ ${\displaystyle R(M,cx)=R(M,x)}$ ${\displaystyle c}$ ${\displaystyle \lambda _{\min }}$ ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle v_{\min }}$ ${\displaystyle R(M,x)\leq \lambda _{\max }}$ ${\displaystyle R(M,v_{\max })=\lambda _{\max }}$

El cociente de Rayleigh se utiliza en el teorema mínimo-máximo para obtener valores exactos de todos los valores propios. También se utiliza en algoritmos de valores propios (como la iteración del cociente de Rayleigh ) para obtener una aproximación de valores propios a partir de una aproximación de vectores propios.

El rango del cociente de Rayleigh (para cualquier matriz, no necesariamente hermitiana) se llama rango numérico y contiene su espectro . Cuando la matriz es hermitiana, el radio numérico es igual a la norma espectral. Aún en análisis funcional, se le conoce como radio espectral . En el contexto de las -álgebras o la mecánica cuántica algebraica, la función que asocia el cociente de Rayleigh-Ritz para un estado fijo y variable a través del álgebra se denominaría estado vectorial del álgebra. ${\displaystyle \lambda _{\max }}$ ${\displaystyle C^{\star }}$ ${\displaystyle M}$ ${\displaystyle R(M,x)}$ ${\displaystyle x}$ ${\displaystyle M}$

En mecánica cuántica , el cociente de Rayleigh da el valor esperado del observable correspondiente al operador de un sistema cuyo estado viene dado por . ${\displaystyle M}$ ${\displaystyle x}$

Si fijamos la matriz compleja , entonces el mapa de cociente de Rayleigh resultante (considerado como una función de ) se determina completamente a través de la identidad de polarización ; de hecho, esto sigue siendo cierto incluso si admitimos que no somos hermitianos. Sin embargo, si restringimos el campo de los escalares a los números reales, entonces el cociente de Rayleigh sólo determina la parte simétrica de . ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle M}$ ${\displaystyle M}$ ${\displaystyle M}$

Límites para Hermitian M

Como se indicó en la introducción, para cualquier vector x , se tiene , donde están respectivamente los valores propios más pequeños y más grandes de . Esto es inmediato después de observar que el cociente de Rayleigh es un promedio ponderado de valores propios de M : ${\displaystyle R(M,x)\in \left[\lambda _{\min },\lambda _{\max }\right]}$ ${\displaystyle \lambda _{\min },\lambda _{\max }}$ ${\displaystyle M}$

$${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}={\frac {\sum _{i=1}^{n}\lambda _{i}y_{i}^{2}}{\sum _{i=1}^{n}y_{i}^{2}}}}$$

x ${\displaystyle (\lambda _{i},v_{i})}$ ${\displaystyle i}$ ${\displaystyle y_{i}=v_{i}^{*}x}$ ${\displaystyle i}$ ${\displaystyle v_{\min },v_{\max }}$

El hecho de que el cociente sea un promedio ponderado de los valores propios se puede utilizar para identificar el segundo, el tercero,... los valores propios más grandes. Sean los valores propios en orden decreciente. Si y está obligado a ser ortogonal a , en cuyo caso , entonces tiene el valor máximo , que se logra cuando . ${\displaystyle \lambda _{\max }=\lambda _{1}\geq \lambda _{2}\geq \cdots \geq \lambda _{n}=\lambda _{\min }}$ ${\displaystyle n=2}$ ${\displaystyle x}$ ${\displaystyle v_{1}}$ ${\displaystyle y_{1}=v_{1}^{*}x=0}$ ${\displaystyle R(M,x)}$ ${\displaystyle \lambda _{2}}$ ${\displaystyle x=v_{2}}$

Caso especial de matrices de covarianza

Una matriz de covarianza empírica se puede representar como el producto de la matriz de datos premultiplicada por su transpuesta . Al ser una matriz semidefinida positiva, tiene valores propios no negativos y vectores propios ortogonales (u ortogonalizables), que se pueden demostrar de la siguiente manera. ${\displaystyle M}$ ${\displaystyle A'A}$ ${\displaystyle A}$ ${\displaystyle A'}$ ${\displaystyle M}$

En primer lugar, que los valores propios no sean negativos: ${\displaystyle \lambda _{i}}$

$${\displaystyle {\begin{aligned}&Mv_{i}=A'Av_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{i}'A'Av_{i}=v_{i}'\lambda _{i}v_{i}\\\Rightarrow {}&\left\|Av_{i}\right\|^{2}=\lambda _{i}\left\|v_{i}\right\|^{2}\\\Rightarrow {}&\lambda _{i}={\frac {\left\|Av_{i}\right\|^{2}}{\left\|v_{i}\right\|^{2}}}\geq 0.\end{aligned}}}$$

En segundo lugar, que los vectores propios son ortogonales entre sí: ${\displaystyle v_{i}}$

$${\displaystyle {\begin{aligned}&Mv_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{j}'Mv_{i}=v_{j}'\lambda _{i}v_{i}\\\Rightarrow {}&\left(Mv_{j}\right)'v_{i}=\lambda _{j}v_{j}'v_{i}\\\Rightarrow {}&\lambda _{j}v_{j}'v_{i}=\lambda _{i}v_{j}'v_{i}\\\Rightarrow {}&\left(\lambda _{j}-\lambda _{i}\right)v_{j}'v_{i}=0\\\Rightarrow {}&v_{j}'v_{i}=0\end{aligned}}}$$

Para establecer ahora que el cociente de Rayleigh es maximizado por el vector propio con el valor propio más grande, considere descomponer un vector arbitrario sobre la base de los vectores propios : ${\displaystyle x}$ ${\displaystyle v_{i}}$

$${\displaystyle x=\sum _{i=1}^{n}\alpha _{i}v_{i},}$$

$${\displaystyle \alpha _{i}={\frac {x'v_{i}}{v_{i}'v_{i}}}={\frac {\langle x,v_{i}\rangle }{\left\|v_{i}\right\|^{2}}}}$$

${\displaystyle x}$ ${\displaystyle v_{i}}$

$${\displaystyle {\begin{aligned}R(M,x)&={\frac {x'A'Ax}{x'x}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'\left(A'A\right){\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}(A'A)v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}{v_{i}}'{v_{i}}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}\lambda _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}\|{v_{i}}\|^{2}{\Bigr )}}}\end{aligned}}}$$

ortonormalidad

$${\displaystyle {\begin{aligned}R(M,x)&={\frac {\sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}{\sum _{i=1}^{n}\alpha _{i}^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)(v_{i}'v_{i})^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)}}\end{aligned}}}$$

La última representación establece que el cociente de Rayleigh es la suma de los cosenos cuadrados de los ángulos formados por el vector y cada vector propio , ponderados por los valores propios correspondientes. ${\displaystyle x}$ ${\displaystyle v_{i}}$

Si un vector maximiza , entonces cualquier múltiplo escalar distinto de cero también maximiza , por lo que el problema puede reducirse al problema de Lagrange de maximizar bajo la restricción de que . ${\displaystyle x}$ ${\displaystyle R(M,x)}$ ${\displaystyle kx}$ ${\displaystyle R}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}=1}$

Definir: . Esto se convierte entonces en un programa lineal , que siempre alcanza su máximo en una de las esquinas del dominio. Un punto máximo tendrá y para todos (cuando los valores propios estén ordenados por magnitud decreciente). ${\displaystyle \beta _{i}=\alpha _{i}^{2}}$ ${\displaystyle \alpha _{1}=\pm 1}$ ${\displaystyle \alpha _{i}=0}$ ${\displaystyle i>1}$

Por lo tanto, el cociente de Rayleigh es maximizado por el vector propio con el valor propio más grande.

Formulación utilizando multiplicadores de Lagrange.

Alternativamente, se puede llegar a este resultado mediante el método de los multiplicadores de Lagrange . La primera parte es mostrar que el cociente es constante bajo escala , donde es un escalar. ${\displaystyle x\to cx}$ ${\displaystyle c}$

$${\displaystyle R(M,cx)={\frac {(cx)^{*}Mcx}{(cx)^{*}cx}}={\frac {c^{*}c}{c^{*}c}}{\frac {x^{*}Mx}{x^{*}x}}=R(M,x).}$$

Debido a esta invariancia, basta con estudiar el caso especial . El problema entonces es encontrar los puntos críticos de la función. ${\displaystyle \|x\|^{2}=x^{T}x=1}$

$${\displaystyle R(M,x)=x^{\mathsf {T}}Mx,}$$

${\displaystyle \|x\|^{2}=x^{T}x=1.}$

$${\displaystyle {\mathcal {L}}(x)=x^{\mathsf {T}}Mx-\lambda \left(x^{\mathsf {T}}x-1\right),}$$

${\displaystyle \lambda }$ ${\displaystyle {\mathcal {L}}(x)}$

$${\displaystyle {\begin{aligned}&{\frac {d{\mathcal {L}}(x)}{dx}}=0\\\Rightarrow {}&2x^{\mathsf {T}}M-2\lambda x^{\mathsf {T}}=0\\\Rightarrow {}&2Mx-2\lambda x=0{\text{ (taking the transpose of both sides and noting that }}M{\text{ is Hermitian)}}\\\Rightarrow {}&Mx=\lambda x\end{aligned}}}$$

$${\displaystyle \therefore R(M,x)={\frac {x^{\mathsf {T}}Mx}{x^{\mathsf {T}}x}}=\lambda {\frac {x^{\mathsf {T}}x}{x^{\mathsf {T}}x}}=\lambda .}$$

Por tanto, los vectores propios de son los puntos críticos del cociente de Rayleigh y sus correspondientes valores propios son los valores estacionarios de . Esta propiedad es la base para el análisis de componentes principales y la correlación canónica . ${\displaystyle x_{1},\ldots ,x_{n}}$ ${\displaystyle M}$ ${\displaystyle \lambda _{1},\ldots ,\lambda _{n}}$ ${\displaystyle {\mathcal {L}}}$

Uso en la teoría de Sturm-Liouville

La teoría de Sturm-Liouville se refiere a la acción del operador lineal.

$${\displaystyle L(y)={\frac {1}{w(x)}}\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y\right)}$$

espacio interior del producto

$${\displaystyle \langle {y_{1},y_{2}}\rangle =\int _{a}^{b}w(x)y_{1}(x)y_{2}(x)\,dx}$$

condiciones de contornoab

$${\displaystyle {\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y(x)\right)dx}{\int _{a}^{b}{w(x)y(x)^{2}}dx}}.}$$

A veces se presenta en forma equivalente, obtenida separando la integral en el numerador y usando integración por partes :

$${\displaystyle {\begin{aligned}{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}&={\frac {\left\{\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x)y'(x)\right]\right)dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}\\&={\frac {\left\{\left.-y(x)\left[p(x)y'(x)\right]\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}y'(x)\left[p(x)y'(x)\right]\,dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}w(x)y(x)^{2}\,dx}}\\&={\frac {\left\{\left.-p(x)y(x)y'(x)\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}\left[p(x)y'(x)^{2}+q(x)y(x)^{2}\right]\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}.\end{aligned}}}$$

Generalizaciones

1. Para un par dado ( A , B ) de matrices y un vector x distinto de cero , el cociente de Rayleigh generalizado se define como:
   $${\displaystyle R(A,B;x):={\frac {x^{*}Ax}{x^{*}Bx}}.}$$
   El cociente de Rayleigh generalizado se puede reducir al cociente de Rayleigh mediante la transformación donde está la descomposición de Cholesky de la matriz hermitiana positiva-definida B. ${\displaystyle R(D,C^{*}x)}$ ${\displaystyle D=C^{-1}A{C^{*}}^{-1}}$ ${\displaystyle CC^{*}}$
2. Para un par dado ( x , y ) de vectores distintos de cero y una matriz hermitiana dada H , el cociente de Rayleigh generalizado se puede definir como:
   $${\displaystyle R(H;x,y):={\frac {y^{*}Hx}{\sqrt {y^{*}y\cdot x^{*}x}}}}$$
   que coincide con R ( H , x ) cuando x  =  y . En mecánica cuántica, esta cantidad se denomina "elemento de matriz" o, a veces, "amplitud de transición".

Ver también

• rango numérico
• Principio minimax de Courant
• Teorema mínimo-máximo
• El cociente de Rayleigh en el análisis de vibraciones.
• Valor propio de Dirichlet

Referencias

1. También conocida como relación Rayleigh-Ritz ; lleva el nombre de Walther Ritz y Lord Rayleigh .
2. Cuerno, RA; Johnson, California (1985). Análisis matricial. Prensa de la Universidad de Cambridge. págs. 176–180. ISBN 0-521-30586-1.
3. Parlett, BN (1998). El problema de los valores propios simétricos . Clásicos en Matemática Aplicada. SIAM. ISBN 0-89871-402-8.
4. Costin, Rodica D. (2013). "Notas de mitad de período" (PDF) . Matemáticas 5102 Matemáticas lineales en dimensiones infinitas, notas de clase . La Universidad Estatal de Ohio.

Otras lecturas

• Shi Yu, Léon-Charles Tranchevent, Bart Moor, Yves Moreau, Fusión de datos basada en kernel para aprendizaje automático: métodos y aplicaciones en bioinformática y minería de textos , cap. 2, Springer, 2011.