Modelo de media móvil autorregresiva

Modelo estadístico utilizado en el análisis de series temporales

En el análisis estadístico de series temporales , los modelos autorregresivos de promedio móvil ( ARMA ) son una forma de describir un proceso estocástico (débilmente) estacionario utilizando autorregresión (AR) y un promedio móvil (MA), cada uno con un polinomio. Son una herramienta para comprender una serie y predecir valores futuros. AR implica la regresión de la variable sobre sus propios valores rezagados (es decir, pasados). MA implica modelar el error como una combinación lineal de términos de error que ocurren contemporáneamente y en varios momentos en el pasado. El modelo generalmente se denota ARMA( p , q ), donde p es el orden de AR y q es el orden de MA.

El modelo general ARMA fue descrito en la tesis de 1951 de Peter Whittle , Pruebas de hipótesis en análisis de series de tiempo , y se popularizó en el libro de 1970 de George EP Box y Gwilym Jenkins .

Los modelos ARMA se pueden estimar utilizando el método Box-Jenkins .

Modelo autorregresivo

La notación AR( p ) se refiere al modelo autorregresivo de orden p . El modelo AR( p ) se escribe como

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}}$

donde son parámetros y la variable aleatoria es ruido blanco , generalmente variables aleatorias normales independientes e idénticamente distribuidas (iid) . ^{[1] [2]} ${\displaystyle \varphi _{1},\ldots ,\varphi _{p}}$ ${\displaystyle \varepsilon _{t}}$

Para que el modelo permanezca estacionario , las raíces de su polinomio característico deben estar fuera del círculo unitario. Por ejemplo, los procesos en el modelo AR(1) con no son estacionarios porque la raíz de se encuentra dentro del círculo unitario. ^[3] ${\displaystyle |\varphi _{1}|\geq 1}$ ${\displaystyle 1-\varphi _{1}B=0}$

La prueba aumentada de Dickey-Fuller evalúa la estabilidad de los componentes de tendencia y del FMI. Para las series temporales estacionarias, se utiliza el modelo ARMA, mientras que para las series no estacionarias, se utilizan los modelos LSTM para derivar características abstractas. El valor final se obtiene reconstruyendo los resultados previstos de cada serie temporal.

Modelo de media móvil

La notación MA( q ) se refiere al modelo de media móvil de orden q :

${\displaystyle X_{t}=\mu +\varepsilon _{t}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}\,}$

donde son los parámetros del modelo, es la expectativa de (que a menudo se supone que es igual a 0), y , ..., son términos de error de ruido blanco iid que comúnmente son variables aleatorias normales. ^[4] ${\displaystyle \theta _{1},...,\theta _{q}}$ ${\displaystyle \mu }$ ${\displaystyle X_{t}}$ ${\displaystyle \varepsilon _{1}}$ ${\displaystyle \varepsilon _{t}}$

Modelo ARMA

La notación ARMA( p , q ) se refiere al modelo con p términos autorregresivos y q términos de promedio móvil. Este modelo contiene los modelos AR( p ) y MA( q ), ^[5]

${\displaystyle X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,}$

El modelo ARMA general fue descrito en la tesis de 1951 de Peter Whittle , quien utilizó el análisis matemático ( series de Laurent y análisis de Fourier ) y la inferencia estadística. ^{[6] [7]} Los modelos ARMA se popularizaron gracias a un libro de 1970 de George EP Box y Jenkins, quien expuso un método iterativo ( Box–Jenkins ) para elegirlos y estimarlos. Este método fue útil para polinomios de orden bajo (de grado tres o menos). ^[8]

El modelo ARMA es esencialmente un filtro de respuesta de impulso infinito aplicado al ruido blanco, al que se le agrega alguna interpretación adicional.

Especificación en términos del operador de retardo

En algunos textos, los modelos se especificarán en términos del operador de retardo L . En estos términos, el modelo AR( p ) viene dado por

${\displaystyle \varepsilon _{t}=\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\varphi (L)X_{t}\,}$

donde representa el polinomio ${\displaystyle \varphi }$

${\displaystyle \varphi (L)=1-\sum _{i=1}^{p}\varphi _{i}L^{i}.\,}$

El modelo MA( q ) está dado por

${\displaystyle X_{t}-\mu =\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta (L)\varepsilon _{t},\,}$

donde representa el polinomio ${\displaystyle \theta }$

${\displaystyle \theta (L)=1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,}$

Finalmente, el modelo combinado ARMA( p , q ) viene dado por

${\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,,}$

o más concisamente,

${\displaystyle \varphi (L)X_{t}=\theta (L)\varepsilon _{t}\,}$

o

${\displaystyle {\frac {\varphi (L)}{\theta (L)}}X_{t}=\varepsilon _{t}\,.}$

Notación alternativa

Algunos autores, entre ellos Box , Jenkins y Reinsel, utilizan una convención diferente para los coeficientes de autorregresión. ^[9] Esto permite que todos los polinomios que involucran al operador de rezago aparezcan en una forma similar en todo momento. Por lo tanto, el modelo ARMA se escribiría como

${\displaystyle \left(1-\sum _{i=1}^{p}\phi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,.}$

Además, si comenzamos las sumas desde y estableciendo y , obtenemos una formulación aún más elegante: ${\displaystyle i=0}$ ${\displaystyle \phi _{0}=-1}$ ${\displaystyle \theta _{0}=1}$ ${\displaystyle -\sum _{i=0}^{p}\phi _{i}L^{i}\;X_{t}=\sum _{i=0}^{q}\theta _{i}L^{i}\;\varepsilon _{t}\,.}$

Interpretación alternativa

En el procesamiento de señales digitales , el modelo ARMA se representa como un filtro digital con ruido blanco en la entrada y el proceso ARMA en la salida.

Modelos de ajuste

Elección de p y q

La búsqueda de valores apropiados de p y q en el modelo ARMA( p , q ) se puede facilitar trazando las funciones de autocorrelación parcial para una estimación de p , y de la misma manera utilizando las funciones de autocorrelación para una estimación de q . Las funciones de autocorrelación extendidas (EACF) se pueden utilizar para determinar simultáneamente p y q . ^[10] Se puede obtener más información considerando las mismas funciones para los residuos de un modelo ajustado con una selección inicial de p y q .

Brockwell y Davis recomiendan utilizar el criterio de información de Akaike (AIC) para encontrar p y q . ^[11] Otra posible opción para determinar el orden es el criterio BIC .

Estimación de coeficientes

En general, los modelos ARMA pueden ajustarse, después de elegir p y q , mediante una regresión de mínimos cuadrados para encontrar los valores de los parámetros que minimizan el término de error. En general, se considera una buena práctica encontrar los valores más pequeños de p y q que proporcionen un ajuste aceptable a los datos. Para un modelo AR puro, se pueden utilizar las ecuaciones de Yule-Walker para proporcionar un ajuste.

A diferencia de otros métodos de regresión (es decir, MCO, MC2S, etc.) que se emplean a menudo en el análisis econométrico, los resultados del modelo ARMA se utilizan principalmente para los casos de previsión de datos de series temporales. Sus coeficientes se utilizan entonces solo para la predicción. Otras áreas de la econometría se centran en la inferencia causal, pero la previsión de series temporales mediante ARMA no. Por lo tanto, los coeficientes solo deberían considerarse útiles para la modelización predictiva.

Implementaciones en paquetes de estadísticas

• En R , la función arima (en el paquete estándar stats ) está documentada en ARIMA Modelling of Time Series. El paquete astsa tiene un script mejorado llamado sarima para ajustar modelos ARMA (estacionales y no estacionales) así como sarima.sim para simular datos de estos modelos. Los paquetes de extensión contienen funcionalidades relacionadas y extendidas, por ejemplo, el paquete tseries incluye una función arma , documentada en "Fit ARMA Models to Time Series"; el paquete fracdiff contiene fracdiff() para procesos ARMA integrados fraccionariamente; y el paquete forecast incluye auto.arima para seleccionar un conjunto parsimonioso de p,q . La vista de tareas de CRAN sobre series temporales contiene enlaces a la mayoría de estos.
• Mathematica tiene una biblioteca completa de funciones de series de tiempo, incluida ARMA. ^[12]
• MATLAB incluye funciones como arma, ar y arx para estimar los modelos AR, ARX (exógeno autorregresivo) y ARMAX. Consulte la Caja de herramientas de identificación de sistemas y la Caja de herramientas de econometría para obtener más información.
• Julia tiene algunos paquetes impulsados ​​por la comunidad que implementan el ajuste con un modelo ARMA como arma.jl.
• El módulo Python Statsmodels incluye muchos modelos y funciones para el análisis de series temporales, incluido ARMA. Anteriormente formaba parte de la biblioteca scikit-learn , ahora es independiente y se integra bien con Pandas . Consulte aquí para obtener más detalles.
• PyFlux tiene una implementación basada en Python de modelos ARIMAX, incluidos modelos ARIMAX bayesianos.
• Las bibliotecas numéricas IMSL son bibliotecas de funcionalidad de análisis numérico que incluyen procedimientos ARMA y ARIMA implementados en lenguajes de programación estándar como C, Java, C# .NET y Fortran.
• gretl también puede estimar el modelo ARMA, vea aquí donde se menciona.
• GNU Octave puede estimar modelos AR utilizando funciones del paquete adicional octave-forge.
• Stata incluye la función arima , que permite estimar modelos ARMA y ARIMA . Consulte aquí para obtener más detalles.
• SuanShu es una biblioteca Java de métodos numéricos, que incluye paquetes estadísticos completos, en los que se implementan modelos ARMA, ARIMA, ARMAX, etc. univariados/multivariados en un enfoque orientado a objetos. Estas implementaciones están documentadas en "SuanShu, una biblioteca numérica y estadística de Java".
• SAS cuenta con un paquete econométrico, ETS, que permite estimar modelos ARIMA. Consulte aquí para obtener más detalles.

Espectro

La densidad espectral de un proceso ARMA es donde es la varianza del ruido blanco, es el polinomio característico de la parte de promedio móvil del modelo ARMA y es el polinomio característico de la parte autorregresiva del modelo ARMA. ^{[13] [14]} $${\displaystyle S(f)={\frac {\sigma ^{2}}{2\pi }}\left\vert {\frac {\theta (e^{-if})}{\phi (e^{-if})}}\right\vert ^{2}}$$ ${\displaystyle \sigma ^{2}}$ ${\displaystyle \theta }$ ${\displaystyle \phi }$

Aplicaciones

El ARMA es apropiado cuando un sistema es una función de una serie de shocks no observados (la media móvil o parte del promedio móvil) así como de su propio comportamiento. Por ejemplo, los precios de las acciones pueden verse afectados por información fundamental y exhibir efectos de tendencia técnica y reversión a la media debido a los participantes del mercado. ^{[ cita requerida ]}

Generalizaciones

Se supone que la dependencia de los valores pasados ​​y los términos de error ε _t es lineal a menos que se especifique lo contrario. Si la dependencia es no lineal, el modelo se denomina específicamente modelo de media móvil no lineal (NMA), modelo autorregresivo no lineal (NAR) o modelo de media móvil autorregresivo no lineal (NARMA). ${\displaystyle X_{t}}$

Los modelos autorregresivos de promedio móvil se pueden generalizar de otras maneras. Véase también modelos autorregresivos de heterocedasticidad condicional (ARCH) y modelos autorregresivos de promedio móvil integrado (ARIMA). Si se deben ajustar múltiples series temporales, se puede ajustar un modelo ARIMA vectorial (o VARIMA). Si la serie temporal en cuestión muestra una memoria larga, entonces el modelado ARIMA fraccional (FARIMA, a veces llamado ARFIMA) puede ser apropiado: véase Promedio móvil autorregresivo fraccionalmente integrado . Si se cree que los datos contienen efectos estacionales, se pueden modelar mediante un modelo SARIMA (ARIMA estacional) o un modelo ARMA periódico.

Otra generalización es el modelo autorregresivo multiescala (MAR). Un modelo MAR está indexado por los nodos de un árbol, mientras que un modelo autorregresivo estándar (de tiempo discreto) está indexado por números enteros.

Tenga en cuenta que el modelo ARMA es un modelo univariado . Las extensiones para el caso multivariado son la autorregresión vectorial (VAR) y la autorregresión vectorial de media móvil (VARMA).

Modelo autorregresivo de media móvil con entradas exógenas (modelo ARMAX)

La notación ARMAX( p , q , b ) se refiere al modelo con p términos autorregresivos, q términos de promedio móvil y b términos de entradas exógenas. Este modelo contiene los modelos AR( p ) y MA( q ) y una combinación lineal de los últimos b términos de una serie temporal conocida y externa . Se expresa mediante: ${\displaystyle d_{t}}$

${\displaystyle X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}+\sum _{i=1}^{b}\eta _{i}d_{t-i}.\,}$

¿Dónde están los parámetros de la entrada exógena ? ${\displaystyle \eta _{1},\ldots ,\eta _{b}}$ ${\displaystyle d_{t}}$

Se han definido algunas variantes no lineales de modelos con variables exógenas: véase por ejemplo Modelo exógeno autorregresivo no lineal .

Los paquetes estadísticos implementan el modelo ARMAX mediante el uso de variables "exógenas" (es decir, independientes). Se debe tener cuidado al interpretar la salida de esos paquetes, porque los parámetros estimados generalmente (por ejemplo, en R ^[15] y gretl ) hacen referencia a la regresión:

${\displaystyle X_{t}-m_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}(X_{t-i}-m_{t-i})+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,}$

donde incorpora todas las variables exógenas (o independientes): ${\displaystyle m_{t}}$

${\displaystyle m_{t}=c+\sum _{i=0}^{b}\eta _{i}d_{t-i}.\,}$

Véase también

• Promedio móvil integrado autorregresivo (ARIMA)
• Suavizado exponencial
• Codificación predictiva lineal
• Análisis predictivo
• Respuesta al impulso infinito
• Respuesta de impulso finito

Referencias

1. Box, George EP (1994). Análisis de series temporales: pronóstico y control. Gwilym M. Jenkins, Gregory C. Reinsel (3.ª ed.). Englewood Cliffs, NJ: Prentice Hall. pág. 54. ISBN 0-13-060774-6.OCLC 28888762  .
2. Shumway, Robert H. (2000). Análisis de series temporales y sus aplicaciones. David S. Stoffer. Nueva York: Springer. pp. 90–91. ISBN 0-387-98950-1.OCLC 42392178  .
3. Box, George EP; Jenkins, Gwilym M.; Reinsel, Gregory C. (1994). Análisis de series temporales: pronóstico y control (3.ª ed.). Englewood Cliffs, NJ: Prentice Hall. pp. 54–55. ISBN 0-13-060774-6.OCLC 28888762  .
4. Box, George EP; Jenkins, Gwilym M.; Reinsel, Gregory C.; Ljung, Greta M. (2016). Análisis de series temporales: pronóstico y control (5.ª ed.). Hoboken, Nueva Jersey: John Wiley & Sons, Incorporated. pág. 53. ISBN 978-1-118-67492-5.OCLC 908107438  .
5. Shumway, Robert H. (2000). Análisis de series temporales y sus aplicaciones. David S. Stoffer. Nueva York: Springer. pág. 98. ISBN 0-387-98950-1.OCLC 42392178  .
6. Hannan, Edward James (1970). Series temporales múltiples . Series de Wiley en probabilidad y estadística matemática. Nueva York: John Wiley and Sons.
7. Whittle, P. (1951). Pruebas de hipótesis en análisis de series temporales . Almquist y Wicksell.Whittle, P. (1963). Predicción y regulación . English Universities Press. ISBN 0-8166-1147-5.

   Republicado como: Whittle, P. (1983). Predicción y regulación mediante métodos de mínimos cuadrados lineales . University of Minnesota Press. ISBN 0-8166-1148-3.

8. Hannan y Deistler (1988, pág. 227): Hannan, EJ ; Deistler, Manfred (1988). Teoría estadística de sistemas lineales . Series de Wiley en probabilidad y estadística matemática. Nueva York: John Wiley and Sons.
9. Box, George; Jenkins, Gwilym M.; Reinsel, Gregory C. (1994). Análisis de series temporales: pronóstico y control (tercera edición). Prentice-Hall. ISBN 0130607746.
10. Universidad Estatal de Missouri. "Especificación del modelo, análisis de series temporales" (PDF) .
11. Brockwell, PJ; Davis, RA (2009). Series temporales: teoría y métodos (2.ª ed.). Nueva York: Springer. pág. 273. ISBN 9781441903198.
12. Características de series temporales en Mathematica Archivado el 24 de noviembre de 2011 en Wayback Machine .
13. Rosenblatt, Murray (2000). Series temporales lineales gaussianas y no gaussianas y campos aleatorios. Nueva York: Springer. p. 10. ISBN 0-387-98917-X.OCLC 42061096  .
14. Wei, William WS (1990). Análisis de series temporales: métodos univariados y multivariados. Redwood City, California: Addison-Wesley Pub. págs. 242–243. ISBN 0-201-15911-2.OCLC 18166355  .
15. Modelado ARIMA de series temporales, documentación R

Lectura adicional

• Mills, Terence C. (1990). Técnicas de series temporales para economistas . Cambridge University Press. ISBN 0521343399.
• Percival, Donald B.; Walden, Andrew T. (1993). Análisis espectral para aplicaciones físicas . Cambridge University Press. ISBN 052135532X.
• Francq, C.; Zakoïan, J.-M. (2005), "Resultados recientes para modelos de series de tiempo lineales con innovaciones no independientes", en Duchesne, P.; Remillard, B. (eds.), Modelado estadístico y análisis para problemas de datos complejos , Springer, págs. 241–265, CiteSeerX  10.1.1.721.1754.
• Shumway, RH y Stoffer, DS (2017). Análisis de series temporales y sus aplicaciones con ejemplos de R. Springer. DOI: 10.1007/978-3-319-52452-8