Producto Hadamard (matrices)

Operación matricial

El producto Hadamard opera sobre matrices de forma idéntica y produce una tercera matriz de las mismas dimensiones.

En matemáticas , el producto de Hadamard (también conocido como producto de elementos , producto de entrada ^{[1] : cap. 5} o producto de Schur ^[2] ) es una operación binaria que toma dos matrices de las mismas dimensiones y devuelve una matriz de los elementos correspondientes multiplicados. Esta operación puede considerarse como una "multiplicación matricial ingenua" y es diferente del producto matricial . Se atribuye y lleva el nombre del matemático francés Jacques Hadamard o del matemático alemán Issai Schur .

El producto Hadamard es asociativo y distributivo . A diferencia del producto matricial, también es conmutativo . ^[3]

Definición

Para dos matrices A y B de la misma dimensión m × n , el producto de Hadamard (a veces ^{[4] [5] [6]} ) es una matriz de la misma dimensión que los operandos, con elementos dados por ^[3] ${\displaystyle A\odot B}$ ${\displaystyle A\circ B}$

${\displaystyle (A\odot B)_{ij}=(A)_{ij}(B)_{ij}.}$

Para matrices de diferentes dimensiones ( m × n y p × q , donde m ≠ p o n ≠ q ), el producto de Hadamard no está definido.

Por ejemplo, el producto de Hadamard para dos matrices arbitrarias de 2 × 3 es:

${\displaystyle {\begin{bmatrix}2&3&1\\0&8&-2\end{bmatrix}}\circ {\begin{bmatrix}3&1&4\\7&9&5\end{bmatrix}}={\begin{bmatrix}2\times 3&3\times 1&1\times 4\\0\times 7&8\times 9&-2\times 5\end{bmatrix}}={\begin{bmatrix}6&3&4\\0&72&-10\end{bmatrix}}}$

Propiedades

• El producto de Hadamard es conmutativo (cuando se trabaja con un anillo conmutativo), asociativo y distributivo sobre la suma. Es decir, si A , B y C son matrices del mismo tamaño y k es un escalar:
  $${\displaystyle {\begin{aligned}A\odot B&=B\odot A,\\A\odot (B\odot C)&=(A\odot B)\odot C,\\A\odot (B+C)&=A\odot B+A\odot C,\\\left(kA\right)\odot B&=A\odot \left(kB\right)=k\left(A\odot B\right),\\A\odot 0&=0\odot A=0.\end{aligned}}}$$
• La matriz identidad bajo la multiplicación de Hadamard de dos matrices m × n es una matriz m × n donde todos los elementos son iguales a 1 . Esto es diferente de la matriz identidad bajo la multiplicación de matrices regular, donde solo los elementos de la diagonal principal son iguales a 1. Además, una matriz tiene una inversa bajo la multiplicación de Hadamard si y solo si ninguno de los elementos es igual a cero. ^[7]
• Para los vectores x e y , y las matrices diagonales correspondientes D _x y D _y con estos vectores como diagonales principales, se cumple la siguiente identidad: ^{[1] : 479}
  $${\displaystyle \mathbf {x} ^{*}(A\circ B)\mathbf {y} =\operatorname {tr} \left({D}_{\mathbf {x} }^{*}A{D}_{\mathbf {y} }{B}^{\mathsf {T}}\right),}$$
  donde x ^* denota la transpuesta conjugada de x . En particular, usando vectores de unos, esto muestra que la suma de todos los elementos en el producto de Hadamard es la traza de AB ^T donde el superíndice T denota la transposición de la matriz , es decir ,. Un resultado relacionado para los cuadrados A y B es que las sumas de filas de su producto de Hadamard son los elementos diagonales de AB ^T : ^[8] ${\displaystyle \operatorname {tr} \left(AB^{\mathsf {T}}\right)=\mathbf {1} ^{\mathsf {T}}\left(A\odot B\right)\mathbf {1} }$
  $${\displaystyle \sum _{i}(A\circ B)_{ij}=\left(B^{\mathsf {T}}A\right)_{jj}=\left(AB^{\mathsf {T}}\right)_{ii}.}$$
  Similarmente,
  $${\displaystyle \left(\mathbf {y} \mathbf {x} ^{*}\right)\odot A={D}_{\mathbf {y} }A{D}_{\mathbf {x} }^{*}}$$
  Además, un producto matriz-vector de Hadamard se puede expresar como:
  $${\displaystyle (A\odot B)\mathbf {y} =\operatorname {diag} \left(AD_{\mathbf {y} }B^{\mathsf {T}}\right)}$$
  ¿Dónde está el vector formado por las diagonales de la matriz M ? ${\displaystyle \operatorname {diag} (M)}$
• El producto Hadamard es una submatriz principal del producto Kronecker . ^{[9] [10] [11]}
• El producto de Hadamard satisface la desigualdad de rango
  $${\displaystyle \operatorname {rank} (A\odot B)\leq \operatorname {rank} (A)\operatorname {rank} (B)}$$
• Si A y B son matrices definidas positivas , entonces se cumple la siguiente desigualdad que involucra el producto de Hadamard: ^[12]
  $${\displaystyle \prod _{i=k}^{n}\lambda _{i}(A\odot B)\geq \prod _{i=k}^{n}\lambda _{i}(AB),\quad k=1,\ldots ,n,}$$
  donde λ _i ( A ) es el i ésimo valor propio más grande de A .
• Si D y E son matrices diagonales , entonces ^[13]
  $${\displaystyle {\begin{aligned}D(A\odot B)E&=(DAE)\odot B=(DA)\odot (BE)\\&=(AE)\odot (DB)=A\odot (DBE).\end{aligned}}}$$
• El producto de Hadamard de dos vectores y es lo mismo que la multiplicación matricial de la matriz diagonal correspondiente de un vector por el otro vector: ${\displaystyle \mathbf {a} }$ ${\displaystyle \mathbf {b} }$
  $${\displaystyle \mathbf {a} \odot \mathbf {b} =D_{\mathbf {a} }\mathbf {b} =D_{\mathbf {b} }\mathbf {a} }$$
• El operador de vector a matriz diagonal se puede expresar utilizando el producto de Hadamard como: ${\displaystyle \operatorname {diag} }$
  $${\displaystyle \operatorname {diag} (\mathbf {a} )=(\mathbf {a} \mathbf {1} ^{T})\odot I}$$
  donde es un vector constante con elementos y es la matriz identidad . ${\displaystyle \mathbf {1} }$ ${\displaystyle 1}$ ${\displaystyle I}$

La propiedad del producto mixto.

$${\displaystyle (A\otimes B)\odot (C\otimes D)=(A\odot C)\otimes (B\odot D),}$$

el producto de Kronecker ${\displaystyle \otimes }$ ${\displaystyle A}$ ${\displaystyle C}$ ${\displaystyle B}$ ${\displaystyle D}$

$${\displaystyle (A\bullet B)\odot (C\bullet D)=(A\odot C)\bullet (B\odot D),}$$

producto que parte la cara^[14] ${\displaystyle \bullet }$

$${\displaystyle (A\bullet B)(C\ast D)=(AC)\odot (BD),}$$

el producto Khatri-Rao ${\displaystyle \ast }$

Teorema del producto de Schur

El producto de Hadamard de dos matrices semidefinidas positivas es semidefinida positiva. ^{[3] [8]} Esto se conoce como teorema del producto de Schur, ^[7] en honor al matemático ruso Issai Schur . Para dos matrices semidefinidas positivas A y B , también se sabe que el determinante de su producto de Hadamard es mayor o igual al producto de sus respectivos determinantes: ^[8]

$${\displaystyle \det({A}\odot {B})\geq \det({A})\det({B}).}$$

Operaciones análogas

Otras operaciones de Hadamard también se ven en la literatura matemática, ^[15] a saber, laRaíz de Hadamard yPoder de Hadamard (que en efecto son lo mismo debido a los índices fraccionarios), definido para una matriz tal que:

Para

$${\displaystyle {\begin{aligned}{B}&={A}^{\circ 2}\\B_{ij}&={A_{ij}}^{2}\end{aligned}}}$$

y para

$${\displaystyle {\begin{aligned}{B}&={A}^{\circ {\frac {1}{2}}}\\B_{ij}&={A_{ij}}^{\frac {1}{2}}\end{aligned}}}$$

ElEl inverso de Hadamard dice:^[15]

$${\displaystyle {\begin{aligned}{B}&={A}^{\circ -1}\\B_{ij}&={A_{ij}}^{-1}\end{aligned}}}$$

ALa división de Hadamard se define como:^[16][17]

$${\displaystyle {\begin{aligned}{C}&={A}\oslash {B}\\C_{ij}&={\frac {A_{ij}}{B_{ij}}}\end{aligned}}}$$

En lenguajes de programación

La mayoría de los lenguajes de programación científicos o numéricos incluyen el producto Hadamard, con varios nombres.

En MATLAB , el producto de Hadamard se expresa como "multiplicación de puntos": a .* bo la llamada de función times(a, b):. ^[18] También tiene operadores de puntos análogos que incluyen, por ejemplo, los operadores a .^ by a ./ b. ^[19] Debido a este mecanismo, es posible reservar *y ^para la multiplicación de matrices y exponenciales de matrices, respectivamente.

El lenguaje de programación Julia tiene una sintaxis similar a la de MATLAB, donde la multiplicación de Hadamard se llama multiplicación transmitida y también se denota con a .* b, y otros operadores se definen de manera análoga por elementos, por ejemplo, el uso de poderes de Hadamard a .^ b. ^[20] Pero a diferencia de MATLAB, en Julia esta sintaxis de "punto" se generaliza con un operador de transmisión. genérico que puede aplicar cualquier función por elemento. Esto incluye tanto operadores binarios (como la multiplicación y exponenciación antes mencionadas, así como cualquier otro operador binario como el producto de Kronecker), y también operadores unarios como !y √. Por tanto, cualquier función en notación de prefijo f se puede aplicar como f.(x). ^[21]

Python no tiene soporte integrado para matrices, lo que genera notaciones inconsistentes o conflictivas. La biblioteca numérica NumPy interpreta a*bo a.multiply(b)como el producto de Hadamard y utiliza a@bo a.matmul(b)para el producto matricial. Con la biblioteca simbólica SymPy , la multiplicación de objetos de matriz como a*bo a@bproducirá el producto de matriz. El producto Hadamard se puede obtener con la llamada al método a.multiply_elementwise(b). ^[22] Algunos paquetes de Python incluyen soporte para los poderes de Hadamard usando métodos como np.power(a, b)o el método Pandasa.pow(b) .

En C++, la biblioteca Eigen proporciona una cwiseProductfunción miembro para la clase Matrix ( ), mientras que la biblioteca Armadillo usa el operador para crear expresiones compactas ( ; es un producto matricial).a.cwiseProduct(b)%a % ba * b

En GAUSS y HP Prime , la operación se conoce como multiplicación de matrices.

En Fortran , R , APL , J y Wolfram Language ( Mathematica ), el operador de multiplicación *o ×aplica el producto de Hadamard, mientras que el producto matricial se escribe usando matmul, %*%, y +.×, respectivamente. El paquete R Matrixcalc introduce la función Hadamard Producto de matrices numéricas o vectores. ^[23]+/ .*.hadamard.prod()

Aplicaciones

El producto Hadamard aparece en algoritmos de compresión con pérdida como JPEG . La etapa de decodificación implica un producto entrada por entrada, es decir, el producto Hadamard. ^{[ cita necesaria ]}

En el procesamiento de imágenes , el operador Hadamard se puede utilizar para mejorar, suprimir o enmascarar regiones de la imagen. Una matriz representa la imagen original, la otra actúa como matriz de peso o de enmascaramiento.

Se utiliza en la literatura sobre aprendizaje automático , por ejemplo, para describir la arquitectura de redes neuronales recurrentes como GRU o LSTM . ^[24]

También se utiliza para estudiar las propiedades estadísticas de matrices y vectores aleatorios. ^{[25] [26]}

El producto facial penetrante

La cara penetrante producto de matrices.

Según la definición de V. Slyusar, el producto de la cara penetrante de la matriz p × g y la matriz n -dimensional ( n > 1) con bloques p × g ( ) es una matriz de tamaño de la forma: ^[27] ${\displaystyle {A}}$ ${\displaystyle {B}}$ ${\displaystyle {B}=[B_{n}]}$ ${\displaystyle {B}}$

$${\displaystyle {A}[\circ ]{B}=\left[{\begin{array}{c | c | c | c }{A}\circ {B}_{1}&{A}\circ {B}_{2}&\cdots &{A}\circ {B}_{n}\end{array}}\right].}$$

Ejemplo

Si

$${\displaystyle {A}={\begin{bmatrix}1&2&3\\4&5&6\\7&8&9\end{bmatrix}},\quad {B}=\left[{\begin{array}{c | c | c }{B}_{1}&{B}_{2}&{B}_{3}\end{array}}\right]=\left[{\begin{array}{c c c | c c c | c c c }1&4&7&2&8&14&3&12&21\\8&20&5&10&25&40&12&30&6\\2&8&3&2&4&2&7&3&9\end{array}}\right]}$$

entonces

$${\displaystyle {A}[\circ ]{B}=\left[{\begin{array}{c c c | c c c | c c c }1&8&21&2&16&42&3&24&63\\32&100&30&40&125&240&48&150&36\\14&64&27&14&32&18&49&24&81\end{array}}\right].}$$

Propiedades principales

${\displaystyle {A}[\circ ]{B}={B}[\circ ]{A};}$^[27]

${\displaystyle {M}\bullet {M}={M}[\circ ]\left({M}\otimes \mathbf {1} ^{\textsf {T}}\right),}$

donde denota el producto de división de caras de matrices, ${\displaystyle \bullet }$

${\displaystyle \mathbf {c} \bullet {M}=\mathbf {c} [\circ ]{M},}$donde es un vector. ${\displaystyle \mathbf {c} }$

Aplicaciones

El producto de cara penetrante se utiliza en la teoría de matriz tensorial de conjuntos de antenas digitales . ^[27] Esta operación también se puede utilizar en modelos de redes neuronales artificiales , específicamente capas convolucionales. ^[28]

Ver también

• Producto interno de Frobenius
• Producto puntual
• Producto Kronecker
• Producto Khatri-Rao

Referencias

1. Horn, Roger A.; Johnson, Charles R. (2012). Análisis matricial . Prensa de la Universidad de Cambridge.
2. Davis, Chandler (1962). "La norma de funcionamiento del producto Schur". Matemática numérica . 4 (1): 343–44. doi :10.1007/bf01386329. S2CID  121027182.
3. Million, Elizabeth (12 de abril de 2007). "El producto Hadamard" (PDF) . buzzard.ups.edu . Consultado el 6 de septiembre de 2020 .
4. "Producto Hadamard - Glosario de aprendizaje automático". aprendizaje automático.wtf .
5. "álgebra lineal: ¿qué significa un punto en un círculo?". Intercambio de pilas de matemáticas .
6. "¿Notación de operaciones por elementos (o puntuales)?". Intercambio de pilas de matemáticas .
7. Millones, Elizabeth. "El producto Hadamard" (PDF) . Consultado el 2 de enero de 2012 .
8. Styan, George PH (1973), "Productos Hadamard y análisis estadístico multivariado", Álgebra lineal y sus aplicaciones , 6 : 217–240, doi :10.1016/0024-3795(73)90023-2, hdl : 10338.dmlcz /102190
9. Liu, Shuangzhe; Trenkler, Götz (2008). "Hadamard, Khatri-Rao, Kronecker y otros productos matriciales". Revista Internacional de Ciencias de la Información y Sistemas . 4 (1): 160-177.
10. Liu, Shuangzhe; Leiva, Víctor; Zhuang, Dan; Mamá, Tiefeng; Figueroa-Zúñiga, Jorge I. (2022). "Cálculo diferencial matricial con aplicaciones en el modelo lineal multivariado y su diagnóstico". Revista de análisis multivariado . 188 : 104849. doi : 10.1016/j.jmva.2021.104849 . S2CID  239598156.
11. Liu, Shuangzhe; Trenkler, Götz; Kollo, Tõnu; von Rosen, Dietrich; Baksalary, Oskar María (2023). "El profesor Heinz Neudecker y el cálculo diferencial matricial". Artículos estadísticos . doi :10.1007/s00362-023-01499-w.
12. Hola, Fumio; Lin, Minghua (febrero de 2017). "Sobre una desigualdad de valores propios que involucra el producto de Hadamard". Álgebra lineal y sus aplicaciones . 515 : 313–320. doi : 10.1016/j.laa.2016.11.017 .
13. "Proyecto" (PDF) . buzzard.ups.edu. 2007 . Consultado el 18 de diciembre de 2019 .
14. Slyusar, VI (1998). «Productos finales en matrices en aplicaciones de radar» (PDF) . Radioelectrónica y Sistemas de Comunicaciones . 41 (3): 50–53.
15. Resmas, Robert (1999). "Inversas de Hadamard, raíces cuadradas y productos de matrices casi semidefinidas". Álgebra lineal y sus aplicaciones . 288 : 35–43. doi : 10.1016/S0024-3795(98)10162-3 .
16. Wetzstein, Gordon; Lanman, Douglas; Hirsch, Mateo; Raskar, Ramesh. "Material complementario: Pantallas tensoriales: Síntesis de campo de luz compresivo utilizando pantallas multicapa con retroiluminación direccional" (PDF) . Laboratorio de medios del MIT .
17. Cyganek, Boguslaw (2013). Detección y reconocimiento de objetos en imágenes digitales: teoría y práctica. John Wiley e hijos. pag. 109.ISBN​ 9781118618363.
18. "Función de tiempos de MATLAB".
19. "Operaciones de matriz versus operaciones de matriz".
20. Operadores de "puntos" vectorizados . Consultado el 31 de enero de 2024 .
21. "Sintaxis de puntos para funciones de vectorización" . Consultado el 31 de enero de 2024 .
22. "Matrices comunes: documentación de SymPy 1.9".
23. "Multiplicación de matrices". Una introducción a R. El Proyecto R para Computación Estadística. 16 de mayo de 2013 . Consultado el 24 de agosto de 2013 .
24. Sak, Haşim; Mayor, Andrés; Beaufays, Françoise (5 de febrero de 2014). "Arquitecturas de redes neuronales recurrentes basadas en memoria a corto plazo para el reconocimiento de voz de gran vocabulario". arXiv : 1402.1128 [cs.NE].
25. Neudecker, Heinz; Liu, Shuangzhe; Polasek, Wolfgang (1995). "El producto Hadamard y algunas de sus aplicaciones en estadística". Estadísticas . 26 (4): 365–373. doi :10.1080/02331889508802503.
26. Neudecker, Heinz; Liu, Shuangzhe (2001). "Algunas propiedades estadísticas de los productos Hadamard de matrices aleatorias". Artículos estadísticos . 42 (4): 475–487. doi :10.1007/s003620100074. S2CID  121385730.
27. Slyusar, VI (13 de marzo de 1998). «Una Familia de Productos Faciales de Matrices y sus propiedades» (PDF) . Cibernética y Análisis de Sistemas C/C de Kibernetika I Sistemnyi Analiz. 1999 . 35 (3): 379–384. doi :10.1007/BF02733426. S2CID  119661450.
28. Ha D., Dai AM, Le QV (2017). "Hiperredes". La Conferencia Internacional sobre Representaciones del Aprendizaje (ICLR) 2017. – Toulon, 2017 .: Página 6. arXiv : 1609.09106 .{{cite journal}}: CS1 maint: multiple names: authors list (link)