stringtranslate.com

Árbol modelo logístico

En informática , un árbol de modelo logístico ( LMT ) es un modelo de clasificación con un algoritmo de entrenamiento supervisado asociado que combina la regresión logística (LR) y el aprendizaje del árbol de decisiones . [1] [2]

Los árboles de modelos logísticos se basan en la idea anterior de un árbol de modelos: un árbol de decisión que tiene modelos de regresión lineal en sus hojas para proporcionar un modelo de regresión lineal por partes (donde los árboles de decisión ordinarios con constantes en sus hojas producirían un modelo constante por partes). [1] En la variante logística, se utiliza el algoritmo LogitBoost para producir un modelo LR en cada nodo del árbol; luego, el nodo se divide utilizando el criterio C4.5 . Cada invocación de LogitBoost se inicia en caliente [ vague ] a partir de sus resultados en el nodo padre. Finalmente, se poda el árbol. [3]

El algoritmo básico de inducción LMT utiliza la validación cruzada para encontrar una cantidad de iteraciones de LogitBoost que no sobreajuste los datos de entrenamiento. Se ha propuesto una versión más rápida que utiliza el criterio de información de Akaike para controlar la detención de LogitBoost. [3]

Referencias

  1. ^ ab Niels Landwehr; Mark Hall; Eibe Frank (2003). Árboles modelo logísticos (PDF) . ECML PKDD .
  2. ^ Landwehr, N.; Hall, M.; Frank, E. (2005). "Árboles de modelos logísticos" (PDF) . Aprendizaje automático . 59 (1–2): 161–205. doi : 10.1007/s10994-005-0466-3 .
  3. ^ ab Sumner, Marc; Eibe Frank; Mark Hall (2005). Aceleración de la inducción del árbol de modelos logísticos (PDF) . PKDD. Springer. págs. 675–683.

Véase también