regresión de Poisson

Modelo estadístico para datos de recuento.

En estadística , la regresión de Poisson es una forma de modelo lineal generalizado de análisis de regresión que se utiliza para modelar datos de recuento y tablas de contingencia . ^[1] La regresión de Poisson supone que la variable de respuesta Y tiene una distribución de Poisson y supone que el logaritmo de su valor esperado puede modelarse mediante una combinación lineal de parámetros desconocidos . Un modelo de regresión de Poisson a veces se conoce como modelo log-lineal , especialmente cuando se utiliza para modelar tablas de contingencia.

La regresión binomial negativa es una generalización popular de la regresión de Poisson porque afloja el supuesto altamente restrictivo de que la varianza es igual a la media realizada por el modelo de Poisson. El modelo tradicional de regresión binomial negativa se basa en la distribución de mezcla de Poisson-gamma. Este modelo es popular porque modela la heterogeneidad de Poisson con una distribución gamma.

Los modelos de regresión de Poisson son modelos lineales generalizados con el logaritmo como función de enlace (canónica) y la función de distribución de Poisson como distribución de probabilidad supuesta de la respuesta.

Modelos de regresión

Si es un vector de variables independientes , entonces el modelo toma la forma ${\displaystyle \mathbf {x} \in \mathbb {R} ^{n}}$

${\displaystyle \log(\operatorname {E} (Y\mid \mathbf {x} ))=\alpha +\mathbf {\beta } '\mathbf {x} ,}$

dónde y . A veces esto se escribe de forma más compacta como ${\displaystyle \alpha \in \mathbb {R} }$ ${\displaystyle \mathbf {\beta } \in \mathbb {R} ^{n}}$

${\displaystyle \log(\operatorname {E} (Y\mid \mathbf {x} ))={\boldsymbol {\theta }}'\mathbf {x} ,\,}$

donde ahora hay un  vector ( n + 1) dimensional que consta de n variables independientes concatenadas al número uno. Aquí simplemente se concatena a . ${\displaystyle \mathbf {x} }$ ${\displaystyle \theta }$ ${\displaystyle \alpha }$ ${\displaystyle \beta }$

Por lo tanto, cuando se le da un modelo de regresión de Poisson y un vector de entrada , la media predicha de la distribución de Poisson asociada viene dada por ${\displaystyle \theta }$ ${\displaystyle \mathbf {x} }$

${\displaystyle \operatorname {E} (Y\mid \mathbf {x} )=e^{{\boldsymbol {\theta }}'\mathbf {x} }.\,}$

Si son observaciones independientes con valores correspondientes de las variables predictoras, entonces se pueden estimar por máxima verosimilitud . Las estimaciones de máxima verosimilitud carecen de una expresión cerrada y deben calcularse mediante métodos numéricos. La superficie de probabilidad para la regresión de Poisson de máxima verosimilitud es siempre cóncava, lo que hace que Newton-Raphson u otros métodos basados ​​en gradientes sean técnicas de estimación apropiadas. ${\displaystyle Y_{i}}$ ${\displaystyle \mathbf {x} _{i}}$ ${\displaystyle \theta }$

Interpretación de coeficientes.

Supongamos que tenemos un modelo con un único predictor, es decir : ${\displaystyle n=1}$

${\displaystyle \log(\operatorname {E} (Y\mid \mathbf {x} ))=\alpha +\beta x}$

Supongamos que calculamos los valores predichos en el punto y : ${\displaystyle (Y_{2},x_{2})}$ ${\displaystyle (Y_{1},x_{1})}$

${\displaystyle \log(\operatorname {E} (Y_{2}\mid x_{2}))=\alpha +\beta x_{2}}$

${\displaystyle \log(\operatorname {E} (Y_{1}\mid x_{1}))=\alpha +\beta x_{1}}$

Restando el primero del segundo:

${\displaystyle \log(\operatorname {E} (Y_{2}\mid x_{2}))-\log(\operatorname {E} (Y_{1}\mid x_{1}))=\beta (x_{2}-x_{1})}$

Supongamos ahora que . Obtenemos: ${\displaystyle x_{2}=x_{1}+1}$

${\displaystyle \log(\operatorname {E} (Y_{2}\mid x_{2}))-\log(\operatorname {E} (Y_{1}\mid x_{1}))=\beta }$

Entonces, el coeficiente del modelo debe interpretarse como el aumento en el logaritmo del recuento de la variable de resultado cuando la variable independiente aumenta en 1.

Aplicando las reglas de los logaritmos:

${\displaystyle \log \left({\dfrac {\operatorname {E} (Y_{2}\mid x_{2})}{\operatorname {E} (Y_{1}\mid x_{1})}}\right)=\beta }$

${\displaystyle {\dfrac {\operatorname {E} (Y_{2}\mid x_{2})}{\operatorname {E} (Y_{1}\mid x_{1})}}=e^{\beta }}$

${\displaystyle \operatorname {E} (Y_{2}\mid x_{2})=e^{\beta }\operatorname {E} (Y_{1}\mid x_{1})}$

Es decir, cuando la variable independiente aumenta en 1, la variable de resultado se multiplica por el coeficiente exponenciado.

El coeficiente exponencial también se llama índice de incidencia .

Estimación de parámetros basada en máxima verosimilitud

Dado un conjunto de parámetros θ y un vector de entrada x , la media de la distribución de Poisson predicha , como se indicó anteriormente, viene dada por

${\displaystyle \lambda :=\operatorname {E} (Y\mid x)=e^{\theta 'x},\,}$

y por lo tanto, la función de masa de probabilidad de la distribución de Poisson está dada por

${\displaystyle p(y\mid x;\theta )={\frac {\lambda ^{y}}{y!}}e^{-\lambda }={\frac {e^{y\theta 'x}e^{-e^{\theta 'x}}}{y!}}}$

Ahora supongamos que se nos da un conjunto de datos que consta de m vectores , junto con un conjunto de m valores . Entonces, para un conjunto dado de parámetros θ , la probabilidad de obtener este conjunto particular de datos está dada por ${\displaystyle x_{i}\in \mathbb {R} ^{n+1},\,i=1,\ldots ,m}$ ${\displaystyle y_{1},\ldots ,y_{m}\in \mathbb {N} }$

${\displaystyle p(y_{1},\ldots ,y_{m}\mid x_{1},\ldots ,x_{m};\theta )=\prod _{i=1}^{m}{\frac {e^{y_{i}\theta 'x_{i}}e^{-e^{\theta 'x_{i}}}}{y_{i}!}}.}$

Mediante el método de máxima verosimilitud , deseamos encontrar el conjunto de parámetros θ que hace que esta probabilidad sea lo más grande posible. Para hacer esto, primero se reescribe la ecuación como una función de verosimilitud en términos de θ :

${\displaystyle L(\theta \mid X,Y)=\prod _{i=1}^{m}{\frac {e^{y_{i}\theta 'x_{i}}e^{-e^{\theta 'x_{i}}}}{y_{i}!}}.}$

Tenga en cuenta que la expresión del lado derecho en realidad no ha cambiado. Por lo general, es difícil trabajar con una fórmula de esta forma; en su lugar, se utiliza el registro de probabilidad :

${\displaystyle \ell (\theta \mid X,Y)=\log L(\theta \mid X,Y)=\sum _{i=1}^{m}\left(y_{i}\theta 'x_{i}-e^{\theta 'x_{i}}-\log(y_{i}!)\right).}$

Observe que los parámetros θ solo aparecen en los dos primeros términos de cada término de la suma. Por lo tanto, dado que sólo estamos interesados ​​en encontrar el mejor valor para θ , podemos eliminar y _i ! y simplemente escribe

${\displaystyle \ell (\theta \mid X,Y)=\sum _{i=1}^{m}\left(y_{i}\theta 'x_{i}-e^{\theta 'x_{i}}\right).}$

Para encontrar un máximo, necesitamos resolver una ecuación que no tenga solución en forma cerrada. Sin embargo, la probabilidad logarítmica negativa, , es una función convexa, por lo que se pueden aplicar técnicas de optimización convexa estándar , como el descenso de gradiente, para encontrar el valor óptimo de θ . ${\displaystyle {\frac {\partial \ell (\theta \mid X,Y)}{\partial \theta }}=0}$ ${\displaystyle -\ell (\theta \mid X,Y)}$

La regresión de Poisson en la práctica

La regresión de Poisson puede ser apropiada cuando la variable dependiente es un recuento, por ejemplo de eventos como la llegada de una llamada telefónica a un centro de llamadas. ^[2] Los eventos deben ser independientes en el sentido de que la llegada de una llamada no hará más o menos probable otra, pero la probabilidad por unidad de tiempo de los eventos se entiende relacionada con covariables como la hora del día.

"Exposición" y compensación

La regresión de Poisson también puede ser apropiada para datos de tasa, donde la tasa es un recuento de eventos dividido por alguna medida de la exposición de esa unidad (una unidad de observación particular). ^[3] Por ejemplo, los biólogos pueden contar el número de especies de árboles en un bosque: los eventos serían observaciones de árboles, la exposición sería la unidad de área y la tasa sería el número de especies por unidad de área. Los demógrafos pueden modelar las tasas de mortalidad en áreas geográficas como el recuento de muertes dividido por años-persona. De manera más general, las tasas de eventos se pueden calcular como eventos por unidad de tiempo, lo que permite que la ventana de observación varíe para cada unidad. En estos ejemplos, la exposición es, respectivamente, unidad de área, persona-año y unidad de tiempo. En la regresión de Poisson esto se maneja como una compensación . Si la tasa es recuento/exposición, multiplicar ambos lados de la ecuación por la exposición la mueve al lado derecho de la ecuación. Cuando se registran ambos lados de la ecuación, el modelo final contiene log(exposición) como término que se suma a los coeficientes de regresión. Esta variable registrada, log(exposición), se denomina variable de compensación y se ubica en el lado derecho de la ecuación con una estimación de parámetro (para log(exposición)) restringida a 1.

${\displaystyle \log(\operatorname {E} (Y\mid x))=\theta 'x}$

lo que implica

${\displaystyle \log \left({\frac {\operatorname {E} (Y\mid x)}{\text{exposure}}}\right)=\log(\operatorname {E} (Y\mid x))-\log({\text{exposure}})=\theta 'x-\log({\text{exposure}})}$

La compensación en el caso de un GLM en R se puede lograr usando la offset()función:

glm ( y ~ offset ( log ( exposición )) + x , familia = poisson ( enlace = log ) )      

Sobredispersión e inflación cero

Una característica de la distribución de Poisson es que su media es igual a su varianza. En determinadas circunstancias, se encontrará que la varianza observada es mayor que la media; esto se conoce como sobredispersión e indica que el modelo no es apropiado. Una razón común es la omisión de variables explicativas relevantes u observaciones dependientes. En algunas circunstancias, el problema de la sobredispersión puede resolverse utilizando en su lugar una estimación de cuasi verosimilitud o una distribución binomial negativa . ^{[4] [5]}

Ver Hoef y Boveng describieron la diferencia entre cuasi-Poisson (también llamada sobredispersión con cuasi-verosimilitud) y binomio negativo (equivalente a gamma-Poisson) de la siguiente manera: Si E ( Y ) = μ , el modelo cuasi-Poisson supone var ( Y ) = θμ mientras que la gamma-Poisson supone var( Y ) = μ (1 +  κμ ), donde θ es el parámetro de sobredispersión cuasi-Poisson y κ es el parámetro de forma de la distribución binomial negativa . Para ambos modelos, los parámetros se estiman utilizando mínimos cuadrados reponderados iterativamente . Para cuasi-Poisson, los pesos son μ / θ . Para el binomio negativo, los pesos son μ /(1 +  κμ ). Con μ grande y una variación sustancial extra-Poisson, los pesos binomiales negativos tienen un límite de 1/ κ . Ver Hoef y Boveng analizaron un ejemplo en el que seleccionaron entre los dos trazando los residuos cuadráticos medios frente a la media. ^[6]

Otro problema común con la regresión de Poisson es el exceso de ceros: si hay dos procesos en funcionamiento, uno que determina si hay cero eventos o cualquier evento, y un proceso de Poisson que determina cuántos eventos hay, habrá más ceros que los que tendría una regresión de Poisson. predecir. Un ejemplo sería la distribución de cigarrillos fumados en una hora por miembros de un grupo donde algunos individuos no son fumadores.

Otros modelos lineales generalizados, como el modelo binomial negativo o el modelo inflado a cero, pueden funcionar mejor en estos casos.

Por el contrario, la subdispersión puede plantear un problema para la estimación de parámetros. ^[7]

Uso en análisis de supervivencia.

La regresión de Poisson crea modelos de riesgos proporcionales, una clase de análisis de supervivencia : consulte los modelos de riesgos proporcionales para obtener descripciones de los modelos de Cox.

Extensiones

Regresión de Poisson regularizada

Al estimar los parámetros de la regresión de Poisson, normalmente se intenta encontrar valores para θ que maximicen la probabilidad de una expresión de la forma

${\displaystyle \sum _{i=1}^{m}\log(p(y_{i};e^{\theta 'x_{i}})),}$

donde m es el número de ejemplos en el conjunto de datos y es la función de masa de probabilidad de la distribución de Poisson con la media establecida en . La regularización se puede agregar a este problema de optimización maximizando en su lugar ^[8] ${\displaystyle p(y_{i};e^{\theta 'x_{i}})}$ ${\displaystyle e^{\theta 'x_{i}}}$

${\displaystyle \sum _{i=1}^{m}\log(p(y_{i};e^{\theta 'x_{i}}))-\lambda \left\|\theta \right\|_{2}^{2},}$

para alguna constante positiva . Esta técnica, similar a la regresión de crestas , puede reducir el sobreajuste . ${\displaystyle \lambda }$

Ver también

• Modelo inflado cero
• distribución de veneno
• Modelo de Poisson de efectos fijos
• Métodos de verosimilitud parcial para datos de panel § QMLE agrupado para modelos de Poisson
• Función de control (econometría) § Endogeneidad en la regresión de Poisson

Referencias

1. Nelder, JA (1974). "Modelos logarítmicos lineales para tablas de contingencia: una generalización de mínimos cuadrados clásicos". Revista de la Royal Statistical Society, Serie C (Estadística Aplicada) . 23 (3): págs. 323–329. doi :10.2307/2347125. JSTOR  2347125.
2. Greene, William H. (2003). Análisis econométrico (Quinta ed.). Prentice Hall. págs. 740–752. ISBN 978-0130661890.
3. Frome, Edward L. (1983). "El análisis de tasas utilizando modelos de regresión de Poisson". Biometría . 39 (3): págs. 665–674. doi :10.2307/2531094. JSTOR  2531094.
4. Paternoster R, Brame R (1997). "¿Múltiples rutas hacia la delincuencia? Una prueba de las teorías generales y de desarrollo del crimen". Criminología . 35 : 45–84. doi : 10.1111/j.1745-9125.1997.tb00870.x .
5. Berk R, MacDonald J (2008). "Sobredispersión y regresión de Poisson". Revista de Criminología Cuantitativa . 24 (3): 269–284. doi :10.1007/s10940-008-9048-4. S2CID  121273486.
6. Ver Hoef, JAY M.; Boveng, Peter L. (1 de enero de 2007). "Regresión binomial cuasi-Poisson versus regresión binomial negativa: ¿Cómo deberíamos modelar datos de recuento sobredispersados?". Ecología . 88 (11): 2766–2772. Código Bib : 2007Ecol...88.2766V. doi :10.1890/07-0043.1. PMID  18051645 . Consultado el 1 de septiembre de 2016 .
7. Schwarzenegger, Rafael; Quigley, Juan; Walls, Lesley (23 de noviembre de 2021). "¿Vale la pena el esfuerzo de provocar dependencia? Un estudio para el modelo de probabilidad multivariado de Poisson-Gamma". Actas de la Institución de Ingenieros Mecánicos, Parte O: Revista de Riesgo y Confiabilidad . 237 (5): 5.doi : 10.1177 /1748006X211059417 .
8. Perperoglou, Aris (8 de septiembre de 2011). "Ajustar datos de supervivencia con regresión de Poisson penalizada". Métodos y aplicaciones estadísticas . Naturaleza Springer. 20 (4): 451–462. doi :10.1007/s10260-011-0172-1. ISSN  1618-2510. S2CID  10883925.

Otras lecturas

• Cameron, AC; Trivedi, PK (1998). Análisis de regresión de datos de recuento . Prensa de la Universidad de Cambridge. ISBN 978-0-521-63201-0.
• Christensen, Ronald (1997). Modelos log-lineales y regresión logística . Textos de Springer en estadística (Segunda ed.). Nueva York: Springer-Verlag. ISBN 978-0-387-98247-2. SEÑOR  1633357.
• Gouriéroux, Christian (2000). "La econometría de variables positivas discretas: el modelo de Poisson". Econometría de Variables Cualitativas Dependientes . Nueva York: Cambridge University Press. págs. 270–83. ISBN 978-0-521-58985-7.
• Greene, William H. (2008). "Modelos de recuento y duración de eventos". Análisis econométrico (8ª ed.). Río Upper Saddle: Prentice Hall. págs. 906–944. ISBN 978-0-13-600383-0.
• Hilbe, JM (2007). Regresión Binomial Negativa . Prensa de la Universidad de Cambridge. ISBN 978-0-521-85772-7.
• Jones, Andrés M.; et al. (2013). "Modelos para datos de recuento". Economía de la Salud Aplicada . Londres: Routledge. págs. 295–341. ISBN 978-0-415-67682-3.
• Myers, Raymond H.; et al. (2010). "Modelos de regresión logística y de Poisson". Modelos lineales generalizados con aplicaciones en ingeniería y ciencias (Segunda ed.). Nueva Jersey: Wiley. págs. 176–183. ISBN 978-0-470-45463-3.