Históricamente, la geometría de la información se remonta al trabajo de CR Rao , quien fue el primero en tratar la matriz de Fisher como una métrica de Riemann . [2] [3] La teoría moderna se debe en gran parte a Shun'ichi Amari , cuyo trabajo ha sido muy influyente en el desarrollo de este campo. [4]
Clásicamente, la geometría de la información consideraba un modelo estadístico parametrizado como una variedad de Riemann . Para tales modelos, existe una elección natural de la métrica de Riemann, conocida como métrica de información de Fisher . En el caso especial de que el modelo estadístico sea una familia exponencial , es posible inducir la variedad estadística con una métrica de Hesse (es decir, una métrica de Riemann dada por el potencial de una función convexa). En este caso, la variedad hereda naturalmente dos conexiones afines planas , así como una divergencia de Bregman canónica . Históricamente, gran parte del trabajo se dedicó al estudio de la geometría asociada de estos ejemplos. En el entorno moderno, la geometría de la información se aplica a un contexto mucho más amplio, que incluye familias no exponenciales, estadísticas no paramétricas e incluso variedades estadísticas abstractas no inducidas a partir de un modelo estadístico conocido. Los resultados combinan técnicas de la teoría de la información , la geometría diferencial afín , el análisis convexo y muchos otros campos.
Las referencias estándar en este campo son el libro de Shun'ichi Amari e Hiroshi Nagaoka, Methods of Information Geometry , [5] y el libro más reciente de Nihat Ay y otros. [6] Frank Nielsen ofrece una suave introducción en el estudio. [7] En 2018 se publicó la revista Information Geometry , dedicada a este campo.
Colaboradores
La historia de la geometría de la información está asociada con los descubrimientos de al menos las siguientes personas y muchas otras.
^ Nielsen, Frank (2022). "Las muchas caras de la geometría de la información" (PDF) . Avisos de la AMS . 69 (1). Sociedad Matemática Estadounidense: 36-45.
^ Rao, CR (1945). "Información y precisión alcanzables en la estimación de parámetros estadísticos". Boletín de la Sociedad Matemática de Calcuta . 37 : 81–91.Reimpreso en Avances en estadística . Saltador. 1992, págs. 235–247. doi :10.1007/978-1-4612-0919-5_16. S2CID 117034671.
^ Nielsen, F. (2013). "Límite inferior de Cramér-Rao y geometría de la información". En Bhatia, R.; Rajan, CS (eds.). Conectado en Infinity II: sobre el trabajo de los matemáticos indios . Textos y Lecturas en Matemáticas. vol. Volumen Especial de Textos y Lecturas en Matemáticas (TRIM). Agencia de libros Hindustan. págs. 18–37. arXiv : 1301.3578 . doi :10.1007/978-93-86279-56-9_2. ISBN978-93-80250-51-9. S2CID 16759683.
^ Amari, Shun'ichi (1983). "Una base de geometría de la información". Electrónica y Comunicaciones en Japón . 66 (6): 1–10. doi :10.1002/ecja.4400660602.
^ Amari, Shun'ichi; Nagaoka, Hiroshi (2000). Métodos de Geometría de la Información . Traducciones de monografías matemáticas. vol. 191. Sociedad Matemática Estadounidense. ISBN0-8218-0531-2.
^ Sí, Nihat; Jost, Jürgen ; Lê, Hông Vân; Schwachhöfer, Lorenz (2017). Geometría de la información . Ergebnisse der Mathematik und ihrer Grenzgebiete. vol. 64. Saltador. ISBN978-3-319-56477-7.
^ Nielsen, Frank (2018). "Una introducción elemental a la geometría de la información". Entropía . 22 (10).
^ Kass, RE; Vos, PW (1997). Fundamentos geométricos de la inferencia asintótica . Serie en Probabilidad y Estadística. Wiley. ISBN0-471-82668-5.
^ Brigo, Damián ; Hanzón, Bernard; LeGland, Francois (1998). "Un enfoque geométrico diferencial para el filtrado no lineal: el filtro de proyección" (PDF) . Transacciones IEEE sobre control automático . 43 (2): 247–252. doi : 10.1109/9.661075.
^ van Handel, Ramón; Mabuchi, Hideo (2005). "Filtro de proyección cuántica para un modelo altamente no lineal en cavidad QED". Journal of Optics B: Óptica cuántica y semiclásica . 7 (10): S226–S236. arXiv : quant-ph/0503222 . Código Bib : 2005JOptB...7S.226V. doi :10.1088/1464-4266/7/10/005. S2CID 15292186.
^ Amari, Shun'ichi (1985). Métodos Geométricos Diferenciales en Estadística . Apuntes de conferencias sobre estadística. Berlín: Springer-Verlag. ISBN0-387-96056-2.
^ Murray, M.; Arroz, J. (1993). Geometría Diferencial y Estadística . Monografías sobre Estadística y Probabilidad Aplicada. vol. 48. Chapman y Hall . ISBN0-412-39860-5.
^ Marriot, Paul; Salmón, Mark, eds. (2000). Aplicaciones de la Geometría Diferencial a la Econometría . Prensa de la Universidad de Cambridge. ISBN0-521-65116-6.
enlaces externos
[1] Revista de geometría de la información de Springer
Descripción general de la geometría de la información por Cosma Rohilla Shalizi, julio de 2010
Información Geometría notas por John Baez , noviembre de 2012
Geometría de la información para redes neuronales (pdf), de Daniel Wagenaar