stringtranslate.com

Sesgo inductivo

El sesgo inductivo (también conocido como sesgo de aprendizaje ) de un algoritmo de aprendizaje es el conjunto de suposiciones que el alumno utiliza para predecir los resultados de las entradas dadas que no ha encontrado. [1] El sesgo inductivo es cualquier cosa que haga que el algoritmo aprenda un patrón en lugar de otro (por ejemplo, funciones escalonadas en árboles de decisión en lugar de funciones continuas en modelos de regresión lineal ). El aprendizaje implica buscar en un espacio de soluciones una que se espera que proporcione una mejor explicación de los datos. Sin embargo, en muchos casos, puede haber múltiples soluciones igualmente apropiadas. [2] Un sesgo inductivo permite que un algoritmo de aprendizaje priorice una solución (o interpretación) sobre otra, independientemente de los datos observados. [3]

En el aprendizaje automático , el objetivo es construir algoritmos que puedan aprender a predecir un determinado resultado objetivo. Para lograrlo, se presentan al algoritmo de aprendizaje algunos ejemplos de entrenamiento que demuestran la relación prevista entre los valores de entrada y salida. Luego, se supone que el alumno debe aproximarse al resultado correcto, incluso para ejemplos que no se han mostrado durante el entrenamiento. Sin ninguna suposición adicional, este problema no se puede resolver, ya que las situaciones no vistas pueden tener un valor de salida arbitrario. El tipo de suposiciones necesarias sobre la naturaleza de la función objetivo se incluyen en la frase sesgo inductivo . [1] [4]

Un ejemplo clásico de sesgo inductivo es la navaja de Occam , que supone que la hipótesis consistente más simple sobre la función objetivo es en realidad la mejor. En este caso, consistente significa que la hipótesis del alumno produce resultados correctos para todos los ejemplos que se le han dado al algoritmo.

Los enfoques para una definición más formal del sesgo inductivo se basan en la lógica matemática . Aquí, el sesgo inductivo es una fórmula lógica que, junto con los datos de entrenamiento, implica lógicamente la hipótesis generada por el alumno. Sin embargo, este formalismo estricto falla en muchos casos prácticos en los que el sesgo inductivo solo puede darse como una descripción aproximada (por ejemplo, en el caso de las redes neuronales artificiales ), o no puede darse en absoluto.

Tipos

La siguiente es una lista de sesgos inductivos comunes en los algoritmos de aprendizaje automático.

Cambio de sesgo

Aunque la mayoría de los algoritmos de aprendizaje tienen un sesgo estático, algunos algoritmos están diseñados para cambiar su sesgo a medida que adquieren más datos. [5] Esto no evita el sesgo, ya que el proceso de cambio de sesgo en sí mismo debe tener un sesgo.

Véase también

Referencias

  1. ^ ab Mitchell, TM (1980), La necesidad de sesgos en el aprendizaje de generalizaciones , CBM-TR 5-110, New Brunswick, New Jersey, EE. UU.: Rutgers University, CiteSeerX 10.1.1.19.5466 
  2. ^ Goodman, Nelson (1955). "El nuevo enigma de la inducción". Realidad, ficción y pronóstico . Harvard University Press. pp. 59–83. ISBN 978-0-674-29071-6.{{cite book}}: Mantenimiento CS1: fecha y año ( enlace )
  3. ^ Mitchell, Tom M (1980). "La necesidad de sesgos en el aprendizaje de generalizaciones" (PDF) . Informe técnico de la Universidad Rutgers CBM-TR-117 : 184–191.
  4. ^ DesJardins, M.; Gordon, DF (1995), "Evaluación y selección de sesgos en el aprendizaje automático", Machine Learning , 20 (1–2): 5–22, doi :10.1007/BF00993472
  5. ^ Utgoff, PE (1984), Cambio de sesgo para el aprendizaje inductivo de conceptos, New Brunswick, New Jersey, EE. UU.: Tesis doctoral, Departamento de Ciencias de la Computación, Universidad Rutgers, ISBN 9780934613002