En estadística , la regresión de Poisson es una forma de modelo lineal generalizado de análisis de regresión que se utiliza para modelar datos de recuento y tablas de contingencia . [1] La regresión de Poisson supone que la variable de respuesta Y tiene una distribución de Poisson y supone que el logaritmo de su valor esperado puede modelarse mediante una combinación lineal de parámetros desconocidos . Un modelo de regresión de Poisson a veces se conoce como modelo log-lineal , especialmente cuando se utiliza para modelar tablas de contingencia.
La regresión binomial negativa es una generalización popular de la regresión de Poisson porque afloja el supuesto altamente restrictivo de que la varianza es igual a la media realizada por el modelo de Poisson. El modelo tradicional de regresión binomial negativa se basa en la distribución de mezcla de Poisson-gamma. Este modelo es popular porque modela la heterogeneidad de Poisson con una distribución gamma.
Los modelos de regresión de Poisson son modelos lineales generalizados con el logaritmo como función de enlace (canónica) y la función de distribución de Poisson como distribución de probabilidad supuesta de la respuesta.
Si es un vector de variables independientes , entonces el modelo toma la forma
dónde y . A veces esto se escribe de forma más compacta como
donde ahora hay un vector ( n + 1) dimensional que consta de n variables independientes concatenadas al número uno. Aquí simplemente se concatena a .
Por lo tanto, cuando se le da un modelo de regresión de Poisson y un vector de entrada , la media predicha de la distribución de Poisson asociada viene dada por
Si son observaciones independientes con valores correspondientes de las variables predictoras, entonces se pueden estimar por máxima verosimilitud . Las estimaciones de máxima verosimilitud carecen de una expresión cerrada y deben calcularse mediante métodos numéricos. La superficie de probabilidad para la regresión de Poisson de máxima verosimilitud es siempre cóncava, lo que hace que Newton-Raphson u otros métodos basados en gradientes sean técnicas de estimación apropiadas.
Supongamos que tenemos un modelo con un único predictor, es decir :
Supongamos que calculamos los valores predichos en el punto y :
Restando el primero del segundo:
Supongamos ahora que . Obtenemos:
Entonces, el coeficiente del modelo debe interpretarse como el aumento en el logaritmo del recuento de la variable de resultado cuando la variable independiente aumenta en 1.
Aplicando las reglas de los logaritmos:
Es decir, cuando la variable independiente aumenta en 1, la variable de resultado se multiplica por el coeficiente exponenciado.
El coeficiente exponencial también se llama índice de incidencia .
Dado un conjunto de parámetros θ y un vector de entrada x , la media de la distribución de Poisson predicha , como se indicó anteriormente, viene dada por
y por lo tanto, la función de masa de probabilidad de la distribución de Poisson está dada por
Ahora supongamos que se nos da un conjunto de datos que consta de m vectores , junto con un conjunto de m valores . Entonces, para un conjunto dado de parámetros θ , la probabilidad de obtener este conjunto particular de datos está dada por
Mediante el método de máxima verosimilitud , deseamos encontrar el conjunto de parámetros θ que hace que esta probabilidad sea lo más grande posible. Para hacer esto, primero se reescribe la ecuación como una función de verosimilitud en términos de θ :
Tenga en cuenta que la expresión del lado derecho en realidad no ha cambiado. Por lo general, es difícil trabajar con una fórmula de esta forma; en su lugar, se utiliza el registro de probabilidad :
Observe que los parámetros θ solo aparecen en los dos primeros términos de cada término de la suma. Por lo tanto, dado que sólo estamos interesados en encontrar el mejor valor para θ , podemos eliminar y i ! y simplemente escribe
Para encontrar un máximo, necesitamos resolver una ecuación que no tenga solución en forma cerrada. Sin embargo, la probabilidad logarítmica negativa, , es una función convexa, por lo que se pueden aplicar técnicas de optimización convexa estándar , como el descenso de gradiente, para encontrar el valor óptimo de θ .
La regresión de Poisson puede ser apropiada cuando la variable dependiente es un recuento, por ejemplo de eventos como la llegada de una llamada telefónica a un centro de llamadas. [2] Los eventos deben ser independientes en el sentido de que la llegada de una llamada no hará más o menos probable otra, pero la probabilidad por unidad de tiempo de los eventos se entiende relacionada con covariables como la hora del día.
La regresión de Poisson también puede ser apropiada para datos de tasa, donde la tasa es un recuento de eventos dividido por alguna medida de la exposición de esa unidad (una unidad de observación particular). [3] Por ejemplo, los biólogos pueden contar el número de especies de árboles en un bosque: los eventos serían observaciones de árboles, la exposición sería la unidad de área y la tasa sería el número de especies por unidad de área. Los demógrafos pueden modelar las tasas de mortalidad en áreas geográficas como el recuento de muertes dividido por años-persona. De manera más general, las tasas de eventos se pueden calcular como eventos por unidad de tiempo, lo que permite que la ventana de observación varíe para cada unidad. En estos ejemplos, la exposición es, respectivamente, unidad de área, persona-año y unidad de tiempo. En la regresión de Poisson esto se maneja como una compensación . Si la tasa es recuento/exposición, multiplicar ambos lados de la ecuación por la exposición la mueve al lado derecho de la ecuación. Cuando se registran ambos lados de la ecuación, el modelo final contiene log(exposición) como término que se suma a los coeficientes de regresión. Esta variable registrada, log(exposición), se denomina variable de compensación y se ubica en el lado derecho de la ecuación con una estimación de parámetro (para log(exposición)) restringida a 1.
lo que implica
La compensación en el caso de un GLM en R se puede lograr usando la offset()
función:
glm ( y ~ offset ( log ( exposición )) + x , familia = poisson ( enlace = log ) )
Una característica de la distribución de Poisson es que su media es igual a su varianza. En determinadas circunstancias, se encontrará que la varianza observada es mayor que la media; esto se conoce como sobredispersión e indica que el modelo no es apropiado. Una razón común es la omisión de variables explicativas relevantes u observaciones dependientes. En algunas circunstancias, el problema de la sobredispersión puede resolverse utilizando en su lugar una estimación de cuasi verosimilitud o una distribución binomial negativa . [4] [5]
Ver Hoef y Boveng describieron la diferencia entre cuasi-Poisson (también llamada sobredispersión con cuasi-verosimilitud) y binomio negativo (equivalente a gamma-Poisson) de la siguiente manera: Si E ( Y ) = μ , el modelo cuasi-Poisson supone var ( Y ) = θμ mientras que la gamma-Poisson supone var( Y ) = μ (1 + κμ ), donde θ es el parámetro de sobredispersión cuasi-Poisson y κ es el parámetro de forma de la distribución binomial negativa . Para ambos modelos, los parámetros se estiman utilizando mínimos cuadrados reponderados iterativamente . Para cuasi-Poisson, los pesos son μ / θ . Para el binomio negativo, los pesos son μ /(1 + κμ ). Con μ grande y una variación sustancial extra-Poisson, los pesos binomiales negativos tienen un límite de 1/ κ . Ver Hoef y Boveng analizaron un ejemplo en el que seleccionaron entre los dos trazando los residuos cuadráticos medios frente a la media. [6]
Otro problema común con la regresión de Poisson es el exceso de ceros: si hay dos procesos en funcionamiento, uno que determina si hay cero eventos o cualquier evento, y un proceso de Poisson que determina cuántos eventos hay, habrá más ceros que los que tendría una regresión de Poisson. predecir. Un ejemplo sería la distribución de cigarrillos fumados en una hora por miembros de un grupo donde algunos individuos no son fumadores.
Otros modelos lineales generalizados, como el modelo binomial negativo o el modelo inflado a cero, pueden funcionar mejor en estos casos.
Por el contrario, la subdispersión puede plantear un problema para la estimación de parámetros. [7]
La regresión de Poisson crea modelos de riesgos proporcionales, una clase de análisis de supervivencia : consulte los modelos de riesgos proporcionales para obtener descripciones de los modelos de Cox.
Al estimar los parámetros de la regresión de Poisson, normalmente se intenta encontrar valores para θ que maximicen la probabilidad de una expresión de la forma
donde m es el número de ejemplos en el conjunto de datos y es la función de masa de probabilidad de la distribución de Poisson con la media establecida en . La regularización se puede agregar a este problema de optimización maximizando en su lugar [8]
para alguna constante positiva . Esta técnica, similar a la regresión de crestas , puede reducir el sobreajuste .