Función sigmoidea

Función matemática que tiene una curva característica en forma de S o curva sigmoidea

La curva logística

Gráfico de la función de error

Una función sigmoidea se refiere específicamente a una función cuyo gráfico sigue la función logística . Se define mediante la fórmula:

${\displaystyle \sigma (x)={\frac {1}{1+e^{-x}}}={\frac {e^{x}}{1+e^{x}}}=1-\sigma (-x).}$

En muchos campos, especialmente en el contexto de las redes neuronales artificiales , el término "función sigmoidea" se reconoce correctamente como sinónimo de la función logística. Si bien otras curvas en forma de S, como la curva de Gompertz o la curva ogee , pueden parecerse a las funciones sigmoideas, son funciones matemáticas distintas con diferentes propiedades y aplicaciones.

Las funciones sigmoideas, en particular la función logística, tienen un dominio de todos los números reales y normalmente producen valores de salida en el rango de 0 a 1, aunque algunas variaciones, como la tangente hiperbólica , producen valores de salida entre −1 y 1. Estas funciones se utilizan comúnmente como funciones de activación en neuronas artificiales y como funciones de distribución acumulativa en estadística . La función sigmoidea logística también es invertible, siendo su inversa la función logit .

Definición

Una función sigmoidea es una función real , acotada y diferenciable que está definida para todos los valores de entrada reales y tiene una derivada no negativa en cada punto ^{[1] [2]} y exactamente un punto de inflexión .

Propiedades

En general, una función sigmoidea es monótona y tiene una primera derivada que tiene forma de campana . Por el contrario, la integral de cualquier función continua, no negativa y con forma de campana (con un máximo local y ningún mínimo local, a menos que sea degenerada) será sigmoidea. Por lo tanto, las funciones de distribución acumulativa para muchas distribuciones de probabilidad comunes son sigmoideas. Un ejemplo de ello es la función de error , que está relacionada con la función de distribución acumulativa de una distribución normal ; otro es la función arctan , que está relacionada con la función de distribución acumulativa de una distribución de Cauchy .

Una función sigmoidea está restringida por un par de asíntotas horizontales como . ${\displaystyle x\rightarrow \pm \infty }$

Una función sigmoidea es convexa para valores menores que un punto particular, y es cóncava para valores mayores que ese punto: en muchos de los ejemplos aquí, ese punto es 0.

Ejemplos

Comparación de algunas funciones sigmoideas. En el dibujo, todas las funciones están normalizadas de manera que su pendiente en el origen sea 1.

• Función logística $${\displaystyle f(x)={\frac {1}{1+e^{-x}}}}$$
• Tangente hiperbólica (versión desplazada y escalada de la función logística, arriba) $${\displaystyle f(x)=\tanh x={\frac {e^{x}-e^{-x}}{e^{x}+e^{-x}}}}$$
• Función arcotangente $${\displaystyle f(x)=\arctan x}$$
• Función de Gudermann $${\displaystyle f(x)=\operatorname {gd} (x)=\int _{0}^{x}{\frac {dt}{\cosh t}}=2\arctan \left(\tanh \left({\frac {x}{2}}\right)\right)}$$
• Función de error $${\displaystyle f(x)=\operatorname {erf} (x)={\frac {2}{\sqrt {\pi }}}\int _{0}^{x}e^{-t^{2}}\,dt}$$
• Función logística generalizada $${\displaystyle f(x)=\left(1+e^{-x}\right)^{-\alpha },\quad \alpha >0}$$
• Función Smoothstep $${\displaystyle f(x)={\begin{cases}{\displaystyle \left(\int _{0}^{1}\left(1-u^{2}\right)^{N}du\right)^{-1}\int _{0}^{x}\left(1-u^{2}\right)^{N}\ du},&|x|\leq 1\\\\\operatorname {sgn}(x)&|x|\geq 1\\\end{cases}}\quad N\in \mathbb {Z} \geq 1}$$
• Algunas funciones algebraicas , por ejemplo $${\displaystyle f(x)={\frac {x}{\sqrt {1+x^{2}}}}}$$
• y en una forma más general ^[3] $${\displaystyle f(x)={\frac {x}{\left(1+|x|^{k}\right)^{1/k}}}}$$
• Hasta los cambios y la escala, muchos sigmoides son casos especiales de donde es la inversa de la transformación negativa de Box-Cox , y y son parámetros de forma. ^[4] $${\displaystyle f(x)=\varphi (\varphi (x,\beta ),\alpha ),}$$ $${\displaystyle \varphi (x,\lambda )={\begin{cases}(1-\lambda x)^{1/\lambda }&\lambda \neq 0\\e^{-x}&\lambda =0\\\end{cases}}}$$ ${\displaystyle \alpha <1}$ ${\displaystyle \beta <1}$
• Función de transición suave ^[5] normalizada a (-1,1):

$${\displaystyle {\begin{aligned}f(x)&={\begin{cases}{\displaystyle {\frac {2}{1+e^{-2m{\frac {x}{1-x^{2}}}}}}-1},&|x|<1\\\\\operatorname {sgn}(x)&|x|\geq 1\\\end{cases}}\\&={\begin{cases}{\displaystyle \tanh \left(m{\frac {x}{1-x^{2}}}\right)},&|x|<1\\\\\operatorname {sgn}(x)&|x|\geq 1\\\end{cases}}\end{aligned}}}$$utilizando la tangente hiperbólica mencionada anteriormente. Aquí, es un parámetro libre que codifica la pendiente en , que debe ser mayor o igual a porque cualquier valor menor dará como resultado una función con múltiples puntos de inflexión, que por lo tanto no es una sigmoidea verdadera. Esta función es inusual porque en realidad alcanza los valores límite de -1 y 1 dentro de un rango finito, lo que significa que su valor es constante en -1 para todos y en 1 para todos . No obstante, es suave (infinitamente diferenciable, ) en todas partes , incluso en . ${\displaystyle m}$ ${\displaystyle x=0}$ ${\displaystyle {\sqrt {3}}}$ ${\displaystyle x\leq -1}$ ${\displaystyle x\geq 1}$ ${\displaystyle C^{\infty }}$ ${\displaystyle x=\pm 1}$

Aplicaciones

Curva logística invertida en S para modelar la relación entre el rendimiento del trigo y la salinidad del suelo

Muchos procesos naturales, como los de las curvas de aprendizaje de sistemas complejos , presentan una progresión que comienza con un comienzo pequeño y se acelera hasta alcanzar un clímax con el tiempo. Cuando no se dispone de un modelo matemático específico, se suele utilizar una función sigmoidea. ^[6]

El modelo van Genuchten–Gupta se basa en una curva S invertida y se aplica a la respuesta del rendimiento de los cultivos a la salinidad del suelo .

En el modelado de la respuesta de los cultivos en la agricultura se muestran ejemplos de la aplicación de la curva S logística a la respuesta del rendimiento del cultivo (trigo) tanto a la salinidad del suelo como a la profundidad del nivel freático del suelo .

En las redes neuronales artificiales , a veces se utilizan funciones no suaves para lograr mayor eficiencia; estas se conocen como sigmoides duros .

En el procesamiento de señales de audio , las funciones sigmoideas se utilizan como funciones de transferencia de modelador de ondas para emular el sonido del recorte de circuitos analógicos . ^[7]

En bioquímica y farmacología , las ecuaciones de Hill y Hill-Langmuir son funciones sigmoideas.

En gráficos de computadora y renderizado en tiempo real, algunas de las funciones sigmoideas se utilizan para mezclar colores o geometría entre dos valores, de manera suave y sin costuras ni discontinuidades visibles.

Las curvas de titulación entre ácidos fuertes y bases fuertes tienen forma sigmoidea debido a la naturaleza logarítmica de la escala de pH .

La función logística se puede calcular de manera eficiente utilizando Unums tipo III . ^[8]

Véase también

• Función escalonada  – Combinación lineal de funciones indicadoras de intervalos reales
• Función de signo  : función matemática que devuelve -1, 0 o 1
• Función escalonada de Heaviside  : función indicadora de números positivos
• Regresión logística  : modelo estadístico para una variable dependiente binaria
• Logit  – Función en estadística
• Función Softplus  – Función de activaciónPages displaying short descriptions of redirect targets
• Tangente hiperbólica modificada de Soboleva  – Función de activación matemática en el análisis de datos
• Función Softmax  : aproximación suave de un argumento máximo
• Función swish  : función de activación matemática en el análisis de datos
• Distribución de Weibull  – Distribución de probabilidad continua
• Estadísticas de Fermi-Dirac  : descripción estadística del comportamiento de los fermiones

Referencias

1. Han, Jun; Morag, Claudio (1995). "La influencia de los parámetros de la función sigmoidea en la velocidad del aprendizaje por retropropagación". En Mira, José; Sandoval, Francisco (eds.). De la computación neuronal natural a la artificial . Lecture Notes in Computer Science. Vol. 930. págs. 195–201. doi :10.1007/3-540-59497-3_175. ISBN 978-3-540-59497-0.
2. Ling, Yibei; He, Bin (diciembre de 1993). "Análisis entrópico de modelos de crecimiento biológico". IEEE Transactions on Biomedical Engineering . 40 (12): 1193–2000. doi :10.1109/10.250574. PMID  8125495.
3. Dunning, Andrew J.; Kensler, Jennifer; Coudeville, Laurent; Bailleux, Fabrice (28 de diciembre de 2015). "Algunas extensiones en métodos continuos para correlatos inmunológicos de protección". Metodología de investigación médica de BMC . 15 (107): 107. doi : 10.1186/s12874-015-0096-9 . PMC 4692073 . PMID  26707389. 
4. "grex --- Explorador de curvas de crecimiento". GitHub . 2022-07-09. Archivado desde el original el 2022-08-25 . Consultado el 2022-08-25 .
5. EpsilonDelta (16 de agosto de 2022). "Función de transición suave en una dimensión | Serie de funciones de transición suave, parte 1". 13:29/14:04 – vía www.youtube.com.
6. Gibbs, Mark N.; Mackay, D. (noviembre de 2000). "Clasificadores de procesos gaussianos variacionales". IEEE Transactions on Neural Networks . 11 (6): 1458–1464. doi :10.1109/72.883477. PMID  18249869. S2CID  14456885.
7. Smith, Julius O. (2010). Procesamiento físico de señales de audio (edición de 2010). W3K Publishing. ISBN 978-0-9745607-2-4Archivado desde el original el 14 de julio de 2022. Consultado el 28 de marzo de 2020 .
8. Gustafson, John L. ; Yonemoto, Isaac (12 de junio de 2017). "Vencer al punto flotante en su propio juego: aritmética de posiciones" (PDF) . Archivado (PDF) desde el original el 14 de julio de 2022 . Consultado el 28 de diciembre de 2019 .

Lectura adicional

• Mitchell, Tom M. (1997). Aprendizaje automático . WCB McGraw–Hill . ISBN. 978-0-07-042807-2.. (NB: En particular, véase el "Capítulo 4: Redes neuronales artificiales" (en particular, págs. 96-97) donde Mitchell utiliza las palabras "función logística" y "función sigmoidea" como sinónimos –a esta función también la llama "función de aplastamiento"– y la función sigmoidea (también conocida como logística) se utiliza para comprimir las salidas de las "neuronas" en redes neuronales multicapa).
• Humphrys, Mark. "Salida continua, la función sigmoidea". Archivado desde el original el 14 de julio de 2022. Consultado el 14 de julio de 2022 .(NB. Propiedades de la sigmoide, incluyendo cómo puede desplazarse a lo largo de los ejes y cómo puede transformarse su dominio.)

Enlaces externos

• "Ajuste de curvas logísticas S (sigmoides) a datos utilizando SegRegA". Archivado desde el original el 14 de julio de 2022.