Cociente de Rayleigh

Construcción para matrices hermíticas

En matemáticas , el cociente de Rayleigh ^[1] ( / ˈ r eɪ . l i / ) para una matriz hermítica compleja dada y un vector distinto de cero se define como: ^{[2] [3]} Para matrices y vectores reales, la condición de ser hermítico se reduce a la de ser simétrico , y la transpuesta conjugada a la transpuesta habitual . Nótese que para cualquier escalar distinto de cero . Recordemos que una matriz hermítica (o simétrica real) es diagonalizable solo con valores propios reales . Se puede demostrar que, para una matriz dada, el cociente de Rayleigh alcanza su valor mínimo (el valor propio más pequeño de ) cuando es (el vector propio correspondiente ). ^[4] De manera similar, y . ${\displaystyle M}$ ${\displaystyle x}$ $${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}.}$$ ${\displaystyle x^{*}}$ ${\displaystyle x'}$ ${\displaystyle R(M,cx)=R(M,x)}$ ${\displaystyle c}$ ${\displaystyle \lambda _{\min }}$ ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle v_{\min }}$ ${\displaystyle R(M,x)\leq \lambda _{\max }}$ ${\displaystyle R(M,v_{\max })=\lambda _{\max }}$

El cociente de Rayleigh se utiliza en el teorema de mínimo-máximo para obtener valores exactos de todos los valores propios. También se utiliza en algoritmos de valores propios (como la iteración del cociente de Rayleigh ) para obtener una aproximación de valor propio a partir de una aproximación de vector propio.

El rango del cociente de Rayleigh (para cualquier matriz, no necesariamente hermítica) se denomina rango numérico y contiene su espectro . Cuando la matriz es hermítica, el radio numérico es igual a la norma espectral. También en análisis funcional, se conoce como radio espectral . En el contexto de las -álgebras o la mecánica cuántica algebraica, la función que asocia el cociente de Rayleigh-Ritz para un valor fijo y variable a través del álgebra se denominaría vector de estado del álgebra. ${\displaystyle \lambda _{\max }}$ ${\displaystyle C^{\star }}$ ${\displaystyle M}$ ${\displaystyle R(M,x)}$ ${\displaystyle x}$ ${\displaystyle M}$

En mecánica cuántica , el cociente de Rayleigh da el valor esperado del observable correspondiente al operador para un sistema cuyo estado está dado por . ${\displaystyle M}$ ${\displaystyle x}$

Si fijamos la matriz compleja , entonces el mapa de cociente de Rayleigh resultante (considerado como una función de ) determina completamente a través de la identidad de polarización ; de hecho, esto sigue siendo cierto incluso si permitimos que sea no hermítico. Sin embargo, si restringimos el campo de escalares a los números reales, entonces el cociente de Rayleigh solo determina la parte simétrica de . ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle M}$ ${\displaystyle M}$ ${\displaystyle M}$

Límites para HermitianMETRO

Como se indicó en la introducción, para cualquier vector x , se tiene , donde son respectivamente los valores propios más pequeños y más grandes de . Esto es inmediato después de observar que el cociente de Rayleigh es un promedio ponderado de los valores propios de M : donde es el -ésimo par propio después de la ortonormalización y es la ésima coordenada de x en la base propia. Entonces es fácil verificar que los límites se alcanzan en los vectores propios correspondientes . ${\displaystyle R(M,x)\in \left[\lambda _{\min },\lambda _{\max }\right]}$ ${\displaystyle \lambda _{\min },\lambda _{\max }}$ ${\displaystyle M}$ $${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}={\frac {\sum _{i=1}^{n}\lambda _{i}y_{i}^{2}}{\sum _{i=1}^{n}y_{i}^{2}}}}$$ ${\displaystyle (\lambda _{i},v_{i})}$ ${\displaystyle i}$ ${\displaystyle y_{i}=v_{i}^{*}x}$ ${\displaystyle i}$ ${\displaystyle v_{\min },v_{\max }}$

El hecho de que el cociente sea un promedio ponderado de los valores propios se puede utilizar para identificar el segundo, el tercero, ... mayor valor propio. Sean los valores propios en orden decreciente. Si y está restringido a ser ortogonal a , en cuyo caso , entonces tiene valor máximo , que se logra cuando . ${\displaystyle \lambda _{\max }=\lambda _{1}\geq \lambda _{2}\geq \cdots \geq \lambda _{n}=\lambda _{\min }}$ ${\displaystyle n=2}$ ${\displaystyle x}$ ${\displaystyle v_{1}}$ ${\displaystyle y_{1}=v_{1}^{*}x=0}$ ${\displaystyle R(M,x)}$ ${\displaystyle \lambda _{2}}$ ${\displaystyle x=v_{2}}$

Caso especial de matrices de covarianza

Una matriz de covarianza empírica puede representarse como el producto de la matriz de datos premultiplicada por su transpuesta . Al ser una matriz semidefinida positiva, tiene valores propios no negativos y vectores propios ortogonales (u ortogonalizables), lo que puede demostrarse de la siguiente manera. ${\displaystyle M}$ ${\displaystyle A'A}$ ${\displaystyle A}$ ${\displaystyle A'}$ ${\displaystyle M}$

En primer lugar, que los valores propios no son negativos: ${\displaystyle \lambda _{i}}$ $${\displaystyle {\begin{aligned}&Mv_{i}=A'Av_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{i}'A'Av_{i}=v_{i}'\lambda _{i}v_{i}\\\Rightarrow {}&\left\|Av_{i}\right\|^{2}=\lambda _{i}\left\|v_{i}\right\|^{2}\\\Rightarrow {}&\lambda _{i}={\frac {\left\|Av_{i}\right\|^{2}}{\left\|v_{i}\right\|^{2}}}\geq 0.\end{aligned}}}$$

En segundo lugar, que los vectores propios sean ortogonales entre sí: si los valores propios son diferentes (en el caso de multiplicidad), la base puede ser ortogonalizada. ${\displaystyle v_{i}}$ $${\displaystyle {\begin{aligned}&Mv_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{j}'Mv_{i}=v_{j}'\lambda _{i}v_{i}\\\Rightarrow {}&\left(Mv_{j}\right)'v_{i}=\lambda _{j}v_{j}'v_{i}\\\Rightarrow {}&\lambda _{j}v_{j}'v_{i}=\lambda _{i}v_{j}'v_{i}\\\Rightarrow {}&\left(\lambda _{j}-\lambda _{i}\right)v_{j}'v_{i}=0\\\Rightarrow {}&v_{j}'v_{i}=0\end{aligned}}}$$

Para establecer ahora que el cociente de Rayleigh se maximiza por el vector propio con el valor propio más grande, considere descomponer un vector arbitrario sobre la base de los vectores propios : donde es la coordenada de proyectada ortogonalmente sobre . Por lo tanto, tenemos: que, por ortonormalidad de los vectores propios, se convierte en: ${\displaystyle x}$ ${\displaystyle v_{i}}$ $${\displaystyle x=\sum _{i=1}^{n}\alpha _{i}v_{i},}$$ $${\displaystyle \alpha _{i}={\frac {x'v_{i}}{v_{i}'v_{i}}}={\frac {\langle x,v_{i}\rangle }{\left\|v_{i}\right\|^{2}}}}$$ ${\displaystyle x}$ ${\displaystyle v_{i}}$ $${\displaystyle {\begin{aligned}R(M,x)&={\frac {x'A'Ax}{x'x}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'\left(A'A\right){\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}(A'A)v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}{v_{i}}'{v_{i}}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}\lambda _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}\|{v_{i}}\|^{2}{\Bigr )}}}\end{aligned}}}$$ $${\displaystyle {\begin{aligned}R(M,x)&={\frac {\sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}{\sum _{i=1}^{n}\alpha _{i}^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)(v_{i}'v_{i})^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)}}\end{aligned}}}$$

La última representación establece que el cociente de Rayleigh es la suma de los cosenos al cuadrado de los ángulos formados por el vector y cada vector propio , ponderados por los valores propios correspondientes. ${\displaystyle x}$ ${\displaystyle v_{i}}$

Si un vector maximiza , entonces cualquier múltiplo escalar distinto de cero también maximiza , por lo que el problema puede reducirse al problema de Lagrange de maximizar bajo la restricción de que . ${\displaystyle x}$ ${\displaystyle R(M,x)}$ ${\displaystyle kx}$ ${\displaystyle R}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}=1}$

Definir: . Esto se convierte entonces en un programa lineal , que siempre alcanza su máximo en uno de los vértices del dominio. Un punto máximo tendrá y para todos (cuando los valores propios se ordenan por magnitud decreciente). ${\displaystyle \beta _{i}=\alpha _{i}^{2}}$ ${\displaystyle \alpha _{1}=\pm 1}$ ${\displaystyle \alpha _{i}=0}$ ${\displaystyle i>1}$

Por tanto, el cociente de Rayleigh se maximiza mediante el vector propio con el valor propio más grande.

Formulación utilizando multiplicadores de Lagrange

Alternativamente, se puede llegar a este resultado mediante el método de multiplicadores de Lagrange . La primera parte es demostrar que el cociente es constante bajo escala , donde es un escalar ${\displaystyle x\to cx}$ ${\displaystyle c}$ $${\displaystyle R(M,cx)={\frac {(cx)^{*}Mcx}{(cx)^{*}cx}}={\frac {c^{*}c}{c^{*}c}}{\frac {x^{*}Mx}{x^{*}x}}=R(M,x).}$$

Debido a esta invariancia, es suficiente estudiar el caso especial . El problema es entonces encontrar los puntos críticos de la función sujeta a la restricción En otras palabras, es encontrar los puntos críticos de donde es un multiplicador de Lagrange. Los puntos estacionarios de ocurren en y ${\displaystyle \|x\|^{2}=x^{T}x=1}$ $${\displaystyle R(M,x)=x^{\mathsf {T}}Mx,}$$ ${\displaystyle \|x\|^{2}=x^{T}x=1.}$ $${\displaystyle {\mathcal {L}}(x)=x^{\mathsf {T}}Mx-\lambda \left(x^{\mathsf {T}}x-1\right),}$$ ${\displaystyle \lambda }$ ${\displaystyle {\mathcal {L}}(x)}$ $${\displaystyle {\begin{aligned}&{\frac {d{\mathcal {L}}(x)}{dx}}=0\\\Rightarrow {}&2x^{\mathsf {T}}M-2\lambda x^{\mathsf {T}}=0\\\Rightarrow {}&2Mx-2\lambda x=0{\text{ (taking the transpose of both sides and noting that }}M{\text{ is Hermitian)}}\\\Rightarrow {}&Mx=\lambda x\end{aligned}}}$$ $${\displaystyle \therefore R(M,x)={\frac {x^{\mathsf {T}}Mx}{x^{\mathsf {T}}x}}=\lambda {\frac {x^{\mathsf {T}}x}{x^{\mathsf {T}}x}}=\lambda .}$$

Por lo tanto, los vectores propios de son los puntos críticos del cociente de Rayleigh y sus valores propios correspondientes son los valores estacionarios de . Esta propiedad es la base del análisis de componentes principales y la correlación canónica . ${\displaystyle x_{1},\ldots ,x_{n}}$ ${\displaystyle M}$ ${\displaystyle \lambda _{1},\ldots ,\lambda _{n}}$ ${\displaystyle {\mathcal {L}}}$

Uso en la teoría de Sturm-Liouville

La teoría de Sturm-Liouville se ocupa de la acción del operador lineal sobre el espacio de producto interno definido por funciones que satisfacen ciertas condiciones de contorno especificadas en a y b . En este caso, el cociente de Rayleigh es $${\displaystyle L(y)={\frac {1}{w(x)}}\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y\right)}$$ $${\displaystyle \langle {y_{1},y_{2}}\rangle =\int _{a}^{b}w(x)y_{1}(x)y_{2}(x)\,dx}$$ $${\displaystyle {\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y(x)\right)dx}{\int _{a}^{b}{w(x)y(x)^{2}}dx}}.}$$

Esto a veces se presenta en una forma equivalente, obtenida separando la integral en el numerador y utilizando la integración por partes : $${\displaystyle {\begin{aligned}{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}&={\frac {\left\{\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x)y'(x)\right]\right)dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}\\&={\frac {\left\{\left.-y(x)\left[p(x)y'(x)\right]\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}y'(x)\left[p(x)y'(x)\right]\,dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}w(x)y(x)^{2}\,dx}}\\&={\frac {\left\{\left.-p(x)y(x)y'(x)\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}\left[p(x)y'(x)^{2}+q(x)y(x)^{2}\right]\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}.\end{aligned}}}$$

Generalizaciones

1. Para un par dado ( A , B ) de matrices, y un vector dado distinto de cero x , el cociente de Rayleigh generalizado se define como: El cociente de Rayleigh generalizado se puede reducir al cociente de Rayleigh mediante la transformación donde es la descomposición de Cholesky de la matriz hermítica definida positiva B. $${\displaystyle R(A,B;x):={\frac {x^{*}Ax}{x^{*}Bx}}.}$$ ${\displaystyle R(D,C^{*}x)}$ ${\displaystyle D=C^{-1}A{C^{*}}^{-1}}$ ${\displaystyle CC^{*}}$
2. Para un par dado ( x , y ) de vectores distintos de cero y una matriz hermítica H dada , el cociente de Rayleigh generalizado se puede definir como: que coincide con R ( H , x ) cuando x  =  y . En mecánica cuántica, esta cantidad se denomina "elemento de matriz" o, a veces, "amplitud de transición". $${\displaystyle R(H;x,y):={\frac {y^{*}Hx}{\sqrt {y^{*}y\cdot x^{*}x}}}}$$

Véase también

• Rango numérico
• Principio de minimax de Courant
• Teorema de mínimo-máximo
• Cociente de Rayleigh en el análisis de vibraciones
• Valor propio de Dirichlet

Referencias

1. También conocida como relación Rayleigh-Ritz ; recibe su nombre de Walther Ritz y Lord Rayleigh .
2. Horn, RA; Johnson, CA (1985). Análisis de matrices. Cambridge University Press. págs. 176-180. ISBN 0-521-30586-1.
3. Parlett, BN (1998). El problema del valor propio simétrico . Clásicos de las matemáticas aplicadas. SIAM. ISBN 0-89871-402-8.
4. Costin, Rodica D. (2013). "Apuntes de mitad de período" (PDF) . Matemáticas 5102 Matemáticas lineales en dimensiones infinitas, notas de clase . The Ohio State University.

Lectura adicional

• Shi Yu, Léon-Charles Tranchevent, Bart Moor, Yves Moreau, Fusión de datos basada en kernel para aprendizaje automático: métodos y aplicaciones en bioinformática y minería de texto , cap. 2, Springer, 2011.