Regresión no lineal

Análisis de regresión

Consulte la cinética de Michaelis-Menten para obtener más detalles.

En estadística, la regresión no lineal es una forma de análisis de regresión en la que los datos de observación se modelan mediante una función que es una combinación no lineal de los parámetros del modelo y depende de una o más variables independientes. Los datos se ajustan mediante un método de aproximaciones sucesivas (iteraciones).

General

En regresión no lineal, un modelo estadístico de la forma,

${\displaystyle \mathbf {y} \sim f(\mathbf {x} ,{\boldsymbol {\beta }})}$

relaciona un vector de variables independientes , , y sus variables dependientes observadas asociadas , . La función no es lineal en los componentes del vector de parámetros , pero por lo demás es arbitraria. Por ejemplo, el modelo de Michaelis-Menten para la cinética enzimática tiene dos parámetros y una variable independiente, relacionados por : ^[a] ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {y} }$ ${\displaystyle f}$ ${\displaystyle \beta }$ ${\displaystyle f}$

${\displaystyle f(x,{\boldsymbol {\beta }})={\frac {\beta _{1}x}{\beta _{2}+x}}}$

Esta función, que es una hipérbola rectangular, no es lineal porque no puede expresarse como una combinación lineal de las dos s. ${\displaystyle \beta }$

Puede haber errores sistemáticos en las variables independientes, pero su tratamiento queda fuera del alcance del análisis de regresión. Si las variables independientes no están libres de errores, se trata de un modelo de errores en las variables , que también queda fuera de este alcance.

Otros ejemplos de funciones no lineales son las funciones exponenciales , las funciones logarítmicas , las funciones trigonométricas , las funciones de potencia , la función gaussiana y las distribuciones de Lorentz . Algunas funciones, como las funciones exponenciales o logarítmicas, se pueden transformar para que sean lineales. Cuando se transforman de esta manera, se puede realizar una regresión lineal estándar, pero debe aplicarse con precaución. Consulte Linealización§Transformación, a continuación, para obtener más detalles.

En general, no existe una expresión de forma cerrada para los parámetros de mejor ajuste, como ocurre en la regresión lineal . Por lo general, se aplican algoritmos de optimización numérica para determinar los parámetros de mejor ajuste. Nuevamente, a diferencia de la regresión lineal, puede haber muchos mínimos locales de la función a optimizar e incluso el mínimo global puede producir una estimación sesgada . En la práctica, se utilizan valores estimados de los parámetros, junto con el algoritmo de optimización, para intentar encontrar el mínimo global de una suma de cuadrados.

Para obtener detalles sobre el modelado de datos no lineales, consulte mínimos cuadrados y mínimos cuadrados no lineales .

Estadísticas de regresión

La suposición subyacente a este procedimiento es que el modelo puede aproximarse mediante una función lineal, es decir, una serie de Taylor de primer orden :

${\displaystyle f(x_{i},{\boldsymbol {\beta }})\approx f(x_{i},0)+\sum _{j}J_{ij}\beta _{j}}$

donde son los elementos de la matriz jacobiana. De esto se deduce que los estimadores de mínimos cuadrados están dados por ${\displaystyle J_{ij}={\frac {\partial f(x_{i},{\boldsymbol {\beta }})}{\partial \beta _{j}}}}$

${\displaystyle {\hat {\boldsymbol {\beta }}}\approx \mathbf {(J^{T}J)^{-1}J^{T}y} ,}$

Comparar mínimos cuadrados generalizados con una matriz de covarianza proporcional a la matriz unitaria. Las estadísticas de regresión no lineal se calculan y se utilizan como en las estadísticas de regresión lineal, pero utilizando J en lugar de X en las fórmulas.

Cuando la función en sí no se conoce analíticamente, pero necesita ser aproximada linealmente a partir de o más valores conocidos (donde es el número de estimadores), el mejor estimador se obtiene directamente del Ajuste de Plantilla Lineal como ^[1] (ver también mínimos cuadrados lineales ). ${\displaystyle f(x_{i},{\boldsymbol {\beta }})}$ ${\displaystyle n+1}$ ${\displaystyle n}$ $${\displaystyle {\hat {\boldsymbol {\beta }}}=((\mathbf {Y{\tilde {M}}} )^{\mathsf {T}}{\boldsymbol {\Omega }}^{-1}\mathbf {Y{\tilde {M}}} )^{-1}(\mathbf {Y{\tilde {M}}} )^{\mathsf {T}}{\boldsymbol {\Omega }}^{-1}(\mathbf {d} -\mathbf {Y{\bar {m}})} }$$

La aproximación lineal introduce sesgos en las estadísticas, por lo que se requiere más cautela de lo habitual al interpretar las estadísticas derivadas de un modelo no lineal.

Mínimos cuadrados ordinarios y ponderados

A menudo se supone que la curva de mejor ajuste es la que minimiza la suma de los residuos al cuadrado . Este es el enfoque de mínimos cuadrados ordinarios (MCO). Sin embargo, en los casos en que la variable dependiente no tiene una varianza constante, o hay algunos valores atípicos, se puede minimizar una suma de residuos al cuadrado ponderados; consulte mínimos cuadrados ponderados . Cada ponderación idealmente debería ser igual al recíproco de la varianza de la observación, o al recíproco de la variable dependiente elevado a alguna potencia en el caso de valores atípicos ^[2] , pero las ponderaciones se pueden volver a calcular en cada iteración, en un algoritmo de mínimos cuadrados ponderados iterativamente.

Linealización

Transformación

Algunos problemas de regresión no lineal pueden trasladarse a un dominio lineal mediante una transformación adecuada de la formulación del modelo.

Por ejemplo, considere el problema de regresión no lineal

${\displaystyle y=ae^{bx}U\,\!}$

con parámetros a y b y con término de error multiplicativo U . Si tomamos el logaritmo de ambos lados, esto se convierte en

${\displaystyle \ln {(y)}=\ln {(a)}+bx+u,\,\!}$

donde u = ln( U ), lo que sugiere la estimación de los parámetros desconocidos mediante una regresión lineal de ln( y ) sobre x , un cálculo que no requiere optimización iterativa. Sin embargo, el uso de una transformación no lineal requiere precaución. Las influencias de los valores de los datos cambiarán, al igual que la estructura de error del modelo y la interpretación de cualquier resultado inferencial. Estos pueden no ser efectos deseados. Por otro lado, dependiendo de cuál sea la mayor fuente de error, una transformación no lineal puede distribuir los errores de manera gaussiana, por lo que la elección de realizar una transformación no lineal debe estar informada por consideraciones de modelado.

Para la cinética de Michaelis-Menten , el gráfico lineal de Lineweaver-Burk

${\displaystyle {\frac {1}{v}}={\frac {1}{V_{\max }}}+{\frac {K_{m}}{V_{\max }[S]}}}$

La ecuación de 1/ v frente a 1/[ S ] se ha utilizado mucho. Sin embargo, dado que es muy sensible a los errores de datos y está fuertemente sesgada hacia el ajuste de los datos en un rango particular de la variable independiente, [ S ], su uso se desaconseja enfáticamente.

Para las distribuciones de error que pertenecen a la familia exponencial , se puede utilizar una función de enlace para transformar los parámetros bajo el marco del modelo lineal generalizado .

Segmentación

Rendimiento de mostaza y salinidad del suelo

La variable independiente o explicativa (por ejemplo, X) se puede dividir en clases o segmentos y se puede realizar una regresión lineal por segmento. La regresión segmentada con análisis de confianza puede arrojar como resultado que la variable dependiente o de respuesta (por ejemplo, Y) se comporta de manera diferente en los distintos segmentos. ^[3]

La figura muestra que la salinidad del suelo (X) inicialmente no ejerce influencia sobre el rendimiento (Y) del cultivo de mostaza, hasta que se alcanza un valor crítico o umbral ( punto de quiebre ), después del cual el rendimiento se ve afectado negativamente. ^[4]

Véase también

• Portal de matemáticas

• Mínimos cuadrados no lineales
• Ajuste de curvas
• Modelo lineal generalizado
• Regresión local
• Metodología de modelado de respuesta
• Programación genética
• Programación multiexpresiva
• Ajuste de plantilla lineal o cuadrático

Referencias

1. Britzger, Daniel (2022). "El ajuste lineal de la plantilla". Eur. Phys. J. C . 82 (8): 731. arXiv : 2112.01548 . Código Bibliográfico :2022EPJC...82..731B. doi :10.1140/epjc/s10052-022-10581-w.
2. Motulsky, HJ; Ransnas, LA (1987). "Ajuste de curvas a datos mediante regresión no lineal: una revisión práctica y no matemática". The FASEB Journal . 1 (5): 365–374. doi : 10.1096/fasebj.1.5.3315805 . PMID  3315805.
3. RJOosterbaan, 1994, Análisis de frecuencia y regresión. En: HPRitzema (ed.), Principios y aplicaciones del drenaje, Publ. 16, págs. 175-224, Instituto Internacional de Recuperación y Mejora de Tierras (ILRI), Wageningen, Países Bajos. ISBN 90-70754-33-9 . Descargar como PDF : [1] 
4. RJOosterbaan, 2002. Investigación sobre el drenaje en los campos de los agricultores: análisis de datos. Parte del proyecto “Liquid Gold” del Instituto Internacional para la Recuperación y Mejora de Tierras (ILRI), Wageningen, Países Bajos. Descargar como PDF: [2]. La figura se realizó con el programa SegReg , que se puede descargar gratuitamente desde [3]

Notas

1. Este modelo también se puede expresar en la notación biológica convencional:

   ${\displaystyle v={\frac {V_{\max }\ [{\mbox{S}}]}{K_{m}+[{\mbox{S}}]}}}$

Lectura adicional

• Bethea, RM; Duran, BS; Boullion, TL (1985). Métodos estadísticos para ingenieros y científicos . Nueva York: Marcel Dekker. ISBN 0-8247-7227-X.
• Meade, N.; Islam, T. (1995). "Intervalos de predicción para pronósticos de curvas de crecimiento". Journal of Forecasting . 14 (5): 413–430. doi :10.1002/for.3980140502.
• Schittkowski, K. (2002). Ajuste de datos en sistemas dinámicos . Boston: Kluwer. ISBN 1402010796.
• Seber, GAF; Wild, CJ (1989). Regresión no lineal . Nueva York: John Wiley and Sons. ISBN 0471617601.