stringtranslate.com

Algoritmo de mayoría ponderada (aprendizaje automático)

En el aprendizaje automático , el algoritmo de mayoría ponderada (WMA) es un algoritmo de metaaprendizaje utilizado para construir un algoritmo compuesto a partir de un grupo de algoritmos de predicción, que podrían ser cualquier tipo de algoritmos de aprendizaje, clasificadores o incluso expertos humanos reales. [1] [2] El algoritmo asume que no tenemos conocimiento previo sobre la precisión de los algoritmos en el grupo, pero hay razones suficientes para creer que uno o más funcionarán bien.

Supongamos que el problema es un problema de decisión binaria . Para construir el algoritmo compuesto, se asigna un peso positivo a cada uno de los algoritmos del grupo. Luego, el algoritmo compuesto recopila votos ponderados de todos los algoritmos del grupo y proporciona la predicción que tiene un voto más alto. Si el algoritmo compuesto comete un error, los algoritmos del grupo que contribuyeron a la predicción incorrecta se descontarán en una cierta proporción β donde 0<β<1.

Se puede demostrar que los límites superiores del número de errores cometidos en una secuencia dada de predicciones de un conjunto de algoritmos son

Si un algoritmo comete como máximo errores.

Existen muchas variantes del algoritmo de mayoría ponderada para manejar distintas situaciones, como objetivos cambiantes, grupos infinitos o predicciones aleatorias. El mecanismo central sigue siendo similar, con los resultados finales del algoritmo compuesto limitados por una función del rendimiento del especialista (algoritmo de mejor rendimiento) en el grupo.

Véase también

Referencias

  1. ^ Littlestone, N.; Warmuth, M. (1994). "El algoritmo de mayoría ponderada" (PDF) . Información y computación . 108 (2): 212–261. doi : 10.1006/inco.1994.1009 .
  2. ^ Littlestone, N.; Warmuth, M. (1989). Algoritmo de mayoría ponderada . Simposio IEEE sobre fundamentos de la informática.