Espacio de parámetros

El espacio de parámetros es el espacio de todos los valores de parámetros posibles que definen un modelo matemático particular . A veces también se lo denomina espacio de ponderaciones y suele ser un subconjunto del espacio euclidiano de dimensión finita .

En estadística , los espacios de parámetros son particularmente útiles para describir familias paramétricas de distribuciones de probabilidad . También forman la base para la estimación de parámetros . En el caso de los estimadores de extremos para modelos paramétricos , una determinada función objetivo se maximiza o minimiza en el espacio de parámetros. ^[1] Los teoremas de existencia y consistencia de dichos estimadores requieren algunas suposiciones sobre la topología del espacio de parámetros. Por ejemplo, la compacidad del espacio de parámetros, junto con la continuidad de la función objetivo, es suficiente para la existencia de un estimador de extremos. ^[1]

A veces, se analizan los parámetros para ver cómo afectan a su modelo estadístico. En ese contexto, se los puede considerar como entradas de una función , en cuyo caso el término técnico para el espacio de parámetros es dominio de una función . Los rangos de valores de los parámetros pueden formar los ejes de un gráfico , y los resultados particulares del modelo se pueden representar gráficamente contra estos ejes para ilustrar cómo las diferentes regiones del espacio de parámetros producen diferentes tipos de comportamiento en el modelo.

Ejemplos

Un modelo simple de deterioro de la salud después de desarrollar cáncer de pulmón podría incluir los dos parámetros género ^[2] y fumador/no fumador, en cuyo caso el espacio de parámetros es el siguiente conjunto de cuatro posibilidades: ${(Hombre, Fumador), (Hombre, No fumador), (Mujer, Fumadora), (Mujer, No fumadora)}$ .

El mapa logístico tiene un parámetro, r , que puede tomar cualquier valor positivo. Por lo tanto, el espacio de parámetros son los números reales positivos . $x_{n+1}=rx_{n}(1-x_{n})$

Para algunos valores de r , esta función termina dando vueltas en torno a unos pocos valores o se queda fija en un valor. Estos valores de largo plazo se pueden representar gráficamente en relación con r en un diagrama de bifurcación para mostrar los diferentes comportamientos de la función para diferentes valores de r .

En un modelo de onda sinusoidal los parámetros son amplitud A > 0, frecuencia angular ω > 0 y fase φ ∈ S ¹ . Por lo tanto, el espacio de parámetros es $y(t)=A\cdot \sin(\omega t+\phi ),$ $R^{+}\times R^{+}\times S^{1}.$

En dinámica compleja , el espacio de parámetros es el plano complejo C = { z = x + y i : x, y ∈ R }, donde i ² = −1.

El famoso conjunto de Mandelbrot es un subconjunto de este espacio de parámetros, formado por los puntos del plano complejo que dan un conjunto acotado de números cuando se aplica repetidamente una función iterada determinada a partir de ese punto de partida. Los puntos restantes, que no están en el conjunto, dan un conjunto ilimitado de números (tienden al infinito) cuando se aplica repetidamente esta función a partir de ese punto de partida.

En el aprendizaje automático , los hiperparámetros se utilizan para describir modelos. En el aprendizaje profundo , los parámetros de una red profunda se denominan pesos. Debido a la estructura en capas de las redes profundas, su espacio de pesos tiene una estructura y una geometría complejas. ^[3]^[4] Por ejemplo, en los perceptrones multicapa , se conserva la misma función al permutar los nodos de una capa oculta, lo que equivale a permutar las matrices de pesos de la red. Esta propiedad se conoce como equivariancia a la permutación de espacios de pesos profundos. ^[3] El estudio busca la optimización de hiperparámetros .

Historia

El espacio paramétrico contribuyó a la liberación de la geometría de los confines del espacio tridimensional . Por ejemplo, el espacio paramétrico de esferas en tres dimensiones tiene cuatro dimensiones: tres para el centro de la esfera y otra para el radio. Según Dirk Struik , fue el libro Neue Geometrie des Raumes (1849) de Julius Plücker el que demostró

...la geometría no necesita basarse únicamente en puntos como elementos básicos. Se pueden utilizar líneas, planos, círculos y esferas como elementos ( Raumelemente ) sobre los que se puede basar una geometría. Esta concepción fértil arrojó nueva luz sobre la geometría sintética y algebraica y creó nuevas formas de dualidad. El número de dimensiones de una forma particular de geometría podría ahora ser cualquier número positivo, dependiendo del número de parámetros necesarios para definir el "elemento". ^[5]^{: 165}

La necesidad de mayores dimensiones se ilustra con la geometría lineal de Plücker . Struik escribe:

La geometría de líneas [de Plücker] en el espacio tridimensional podría considerarse como una geometría de cuatro dimensiones o, como ha subrayado Klein , como la geometría de una cuádrica de cuatro dimensiones en un espacio de cinco dimensiones. ^[5]^{: 168}

De esta manera, la cuádrica de Klein describe los parámetros de las líneas en el espacio.

Véase también

Referencias

^ ab Hayashi, Fumio (2000). Econometría. Princeton University Press. pág. 446. ISBN 0-691-01018-8.
^ Gasperino, J.; Rom, WN (2004). "Género y cáncer de pulmón". Clinical Lung Cancer . 5 (6): 353–359. doi :10.3816/CLC.2004.n.013. PMID 15217534.
^ ab Navon, Aviv; Shamsian, Aviv; Achituve, Idan; Fetaya, Ethan; Chechik, Gal; Maron, Haggai (3 de julio de 2023). "Arquitecturas equivariantes para el aprendizaje en espacios de peso profundo". Actas de la 40.ª Conferencia internacional sobre aprendizaje automático . PMLR: 25790–25816.
^ Hecht-Nielsen, Robert (1 de enero de 1990), Eckmiller, Rolf (ed.), "SOBRE LA ESTRUCTURA ALGEBRAICA DE LOS ESPACIOS DE PESO DE LA RED DE RETROALIMENTACIÓN", Advanced Neural Computers , Ámsterdam: Holanda Septentrional, págs. 129-135, ISBN 978-0-444-88400-8, consultado el 1 de diciembre de 2023
^ de Dirk Struik (1967) Una historia concisa de las matemáticas , 3.ª edición, Dover Books