En estadística , el término modelo lineal se refiere a cualquier modelo que suponga linealidad en el sistema. La ocurrencia más común es en relación con los modelos de regresión y el término se toma a menudo como sinónimo de modelo de regresión lineal . Sin embargo, el término también se utiliza en el análisis de series temporales con un significado diferente. En cada caso, la designación "lineal" se utiliza para identificar una subclase de modelos para los que es posible una reducción sustancial de la complejidad de la teoría estadística relacionada .
Para el caso de regresión, el modelo estadístico es el siguiente: dada una muestra (aleatoria), la relación entre las observaciones y las variables independientes se formula como
donde pueden ser funciones no lineales . En lo anterior, las cantidades son variables aleatorias que representan errores en la relación. La parte "lineal" de la designación se relaciona con la aparición de los coeficientes de regresión , de manera lineal en la relación anterior. Alternativamente, se puede decir que los valores predichos correspondientes al modelo anterior, a saber
son funciones lineales de .
Dado que la estimación se realiza sobre la base de un análisis de mínimos cuadrados , las estimaciones de los parámetros desconocidos se determinan minimizando una función de suma de cuadrados.
De esto se desprende fácilmente que el aspecto "lineal" del modelo significa lo siguiente:
Un ejemplo de un modelo de serie temporal lineal es un modelo de media móvil autorregresivo . Aquí el modelo para los valores { } en una serie temporal se puede escribir en la forma
donde nuevamente las cantidades son variables aleatorias que representan innovaciones que son nuevos efectos aleatorios que aparecen en un momento determinado pero que también afectan valores de en momentos posteriores. En este caso, el uso del término "modelo lineal" se refiere a la estructura de la relación anterior al representar como una función lineal los valores pasados de la misma serie temporal y los valores actuales y pasados de las innovaciones. [1] Este aspecto particular de la estructura significa que es relativamente simple derivar relaciones para las propiedades de media y covarianza de la serie temporal. Nótese que aquí la parte "lineal" del término "modelo lineal" no se refiere a los coeficientes y , como sería en el caso de un modelo de regresión, que parece estructuralmente similar.
Existen otros casos en los que se utiliza el término "modelo no lineal" para contrastar con un modelo de estructura lineal, aunque el término "modelo lineal" no se suele aplicar. Un ejemplo de esto es la reducción de dimensionalidad no lineal .