factor de bayes

Factor estadístico utilizado para comparar hipótesis en competencia.

El factor Bayes es una proporción de dos modelos estadísticos en competencia representados por su evidencia y se utiliza para cuantificar el apoyo de un modelo sobre el otro. ^[1] Los modelos en cuestión pueden tener un conjunto común de parámetros, como una hipótesis nula y una alternativa, pero esto no es necesario; por ejemplo, también podría ser un modelo no lineal en comparación con su aproximación lineal . El factor Bayes puede considerarse como un análogo bayesiano de la prueba de razón de verosimilitud , aunque utiliza la probabilidad integrada (es decir, marginal) en lugar de la probabilidad maximizada. Por lo tanto, ambas cantidades sólo coinciden bajo hipótesis simples (por ejemplo, dos valores de parámetros específicos). ^[2] Además, a diferencia de las pruebas de significación de la hipótesis nula , los factores de Bayes apoyan la evaluación de la evidencia a favor de una hipótesis nula, en lugar de permitir únicamente que la nula sea rechazada o no rechazada. ^[3]

Aunque conceptualmente simple, el cálculo del factor de Bayes puede resultar desafiante dependiendo de la complejidad del modelo y las hipótesis. ^[4] Dado que las expresiones cerradas de la probabilidad marginal generalmente no están disponibles, se han sugerido aproximaciones numéricas basadas en muestras de MCMC . ^[5] Para ciertos casos especiales, se pueden derivar expresiones algebraicas simplificadas; por ejemplo, la relación de densidad Savage-Dickey en el caso de una hipótesis precisa (igualdad restringida) frente a una alternativa no restringida. ^{[6] [7]} Otra aproximación, derivada de la aplicación de la aproximación de Laplace a las probabilidades integradas, se conoce como criterio de información bayesiano (BIC); ^[8] en grandes conjuntos de datos, el factor Bayes se acercará al BIC a medida que disminuya la influencia de los antecedentes. En conjuntos de datos pequeños, los antecedentes generalmente importan y no deben ser inadecuados, ya que el factor de Bayes no estará definido si alguna de las dos integrales en su relación no es finita.

Definición

El factor de Bayes es la relación de dos probabilidades marginales; es decir, las probabilidades de dos modelos estadísticos integrados sobre las probabilidades anteriores de sus parámetros. ^[9]

La probabilidad posterior de un modelo M dados los datos D viene dada por el teorema de Bayes : ${\displaystyle \Pr(M|D)}$

${\displaystyle \Pr(M|D)={\frac {\Pr(D|M)\Pr(M)}{\Pr(D)}}.}$

El término clave dependiente de los datos representa la probabilidad de que algunos datos se produzcan bajo el supuesto del modelo M ; evaluarlo correctamente es la clave para la comparación del modelo bayesiano. ${\displaystyle \Pr(D|M)}$

Dado un problema de selección de modelo en el que se desea elegir entre dos modelos basándose en los datos observados D , la plausibilidad de los dos modelos diferentes M ₁ y M ₂ , parametrizados por vectores de parámetros del modelo y , se evalúa mediante el factor de Bayes K dado por ${\displaystyle \theta _{1}}$ ${\displaystyle \theta _{2}}$

${\displaystyle K={\frac {\Pr(D|M_{1})}{\Pr(D|M_{2})}}={\frac {\int \Pr(\theta _{1}|M_{1})\Pr(D|\theta _{1},M_{1})\,d\theta _{1}}{\int \Pr(\theta _{2}|M_{2})\Pr(D|\theta _{2},M_{2})\,d\theta _{2}}}={\frac {\frac {\Pr(M_{1}|D)\Pr(D)}{\Pr(M_{1})}}{\frac {\Pr(M_{2}|D)\Pr(D)}{\Pr(M_{2})}}}={\frac {\Pr(M_{1}|D)}{\Pr(M_{2}|D)}}{\frac {\Pr(M_{2})}{\Pr(M_{1})}}.}$

Cuando los dos modelos tienen igual probabilidad previa, de modo que , el factor de Bayes es igual a la relación de las probabilidades posteriores de M ₁ y M ₂ . Si en lugar de la integral del factor de Bayes se utiliza la verosimilitud correspondiente a la estimación de máxima verosimilitud del parámetro para cada modelo estadístico, entonces la prueba se convierte en una prueba clásica de razón de verosimilitud . A diferencia de una prueba de razón de verosimilitud, esta comparación de modelos bayesianos no depende de ningún conjunto único de parámetros, ya que integra todos los parámetros en cada modelo (con respecto a los respectivos antecedentes). Una ventaja del uso de factores Bayes es que automáticamente, y de forma bastante natural, incluye una penalización por incluir demasiada estructura del modelo. ^[10] De este modo protege contra el sobreajuste . Para los modelos en los que no se dispone de una versión explícita de la probabilidad o su evaluación numérica es demasiado costosa, se puede utilizar el cálculo bayesiano aproximado para la selección del modelo en un marco bayesiano, ^[11] con la salvedad de que las estimaciones bayesianas aproximadas de los factores bayesianos suelen estar sesgadas. . ^[12] ${\displaystyle \Pr(M_{1})=\Pr(M_{2})}$

Otros enfoques son:

• tratar la comparación de modelos como un problema de decisión , calculando el valor o costo esperado de cada elección de modelo;
• utilizar la longitud mínima de mensaje (MML).
• utilizar la longitud mínima de descripción (MDL).

Interpretación

Un valor de K > 1 significa que M ₁ está más respaldado por los datos considerados que M ₂ . Tenga en cuenta que las pruebas de hipótesis clásicas otorgan a una hipótesis (o modelo) un estado preferido (la 'hipótesis nula') y solo consideran la evidencia en su contra. Harold Jeffreys dio una escala para la interpretación de K : ^[13]

La segunda columna proporciona los pesos correspondientes de la evidencia en decihartleys (también conocidos como decibans ); Los bits se agregan en la tercera columna para mayor claridad. Según IJ Good, un cambio en el peso de la evidencia de 1 deciban o 1/3 de bit (es decir, un cambio en una razón de probabilidades de pares a aproximadamente 5:4) es tan fino como los humanos pueden percibir razonablemente su grado de creencia. en una hipótesis de uso cotidiano. ^[14]

Kass y Raftery (1995) proporcionan una tabla alternativa, ampliamente citada: ^[10]

Ejemplo

Supongamos que tenemos una variable aleatoria que produce un éxito o un fracaso. Queremos comparar un modelo M ₁ donde la probabilidad de éxito es q = 1 ⁄ 2 , y otro modelo M ₂ donde q es desconocido y tomamos una distribución a priori para q que es uniforme en [0,1]. Tomamos una muestra de 200 y encontramos 115 éxitos y 85 fracasos. La probabilidad se puede calcular según la distribución binomial :

${\displaystyle {{200 \choose 115}q^{115}(1-q)^{85}}.}$

Así tenemos para M ₁

${\displaystyle P(X=115\mid M_{1})={200 \choose 115}\left({1 \over 2}\right)^{200}\approx 0.006}$

mientras que para M ₂ tenemos

${\displaystyle P(X=115\mid M_{2})=\int _{0}^{1}{200 \choose 115}q^{115}(1-q)^{85}dq={1 \over 201}\approx 0.005}$

La relación es entonces 1,2, lo que "apenas merece la pena mencionar", aunque apunta ligeramente hacia M ₁ .

Una prueba de hipótesis frecuentista de M ₁ (considerada aquí como una hipótesis nula ) habría producido un resultado muy diferente. Tal prueba dice que M ₁ debe rechazarse al nivel de significancia del 5%, ya que la probabilidad de obtener 115 o más éxitos de una muestra de 200 si q = 1 ⁄ 2 es 0,02, y como prueba de dos colas de obtener una una cifra tan extrema o más extrema que 115 es 0,04. Tenga en cuenta que 115 está a más de dos desviaciones estándar de 100. Por lo tanto, mientras que una prueba de hipótesis frecuentista arrojaría resultados significativos al nivel de significancia del 5%, el factor de Bayes difícilmente considera que este sea un resultado extremo. Tenga en cuenta, sin embargo, que un previo no uniforme (por ejemplo, uno que refleje el hecho de que se espera que el número de éxitos y fracasos sea del mismo orden de magnitud) podría dar como resultado un factor de Bayes que esté más de acuerdo con el frecuentista. prueba de hipotesis.

Una prueba clásica de razón de verosimilitud habría encontrado la estimación de máxima verosimilitud para q , es decir , de donde ${\displaystyle {\hat {q}}={\frac {115}{200}}=0.575}$

${\displaystyle \textstyle P(X=115\mid M_{2})={{200 \choose 115}{\hat {q}}^{115}(1-{\hat {q}})^{85}}\approx 0.06}$

(en lugar de promediar todos los q posibles ). Esto da un ratio de verosimilitud de 0,1 y apunta hacia M ₂ .

M ₂ es un modelo más complejo que M ₁ porque tiene un parámetro libre que le permite modelar los datos con mayor precisión. La capacidad de los factores de Bayes para tener esto en cuenta es una de las razones por las que la inferencia bayesiana se ha propuesto como justificación teórica y generalización de la navaja de Occam , reduciendo los errores de tipo I. ^[15]

Por otro lado, el método moderno de probabilidad relativa tiene en cuenta el número de parámetros libres en los modelos, a diferencia del índice de verosimilitud clásico. El método de probabilidad relativa podría aplicarse de la siguiente manera. El modelo M ₁ tiene 0 parámetros, por lo que su valor del criterio de información de Akaike (AIC) es . El modelo M ₂ tiene 1 parámetro, por lo que su valor AIC es . Por lo tanto, M ₁ es aproximadamente veces más probable que M ₂ para minimizar la pérdida de información. Por tanto, _se prefiere ligeramente M2, pero _no se puede excluir M1 . ${\displaystyle 2\cdot 0-2\cdot \ln(0.005956)\approx 10.2467}$ ${\displaystyle 2\cdot 1-2\cdot \ln(0.056991)\approx 7.7297}$ ${\displaystyle \exp \left({\frac {7.7297-10.2467}{2}}\right)\approx 0.284}$

Ver también

• Portal de matemáticas

• Criterio de información de Akaike
• Cálculo bayesiano aproximado
• Criterio de información bayesiano
• Criterio de información de desviación
• La paradoja de Lindley
• Longitud mínima del mensaje
• Selección de modelo
• Valor E

Ratios estadísticos

• Razón de probabilidades
• Riesgo relativo

Referencias

1. Morey, Richard D.; Romeijn, Jan-Willem; Más rápido, Jeffrey N. (2016). "La filosofía de los factores de Bayes y la cuantificación de la evidencia estadística". Revista de Psicología Matemática . 72 : 6–18. doi : 10.1016/j.jmp.2015.11.001 .
2. Lesaffre, Emmanuel; Lawson, Andrew B. (2012). "Prueba de hipótesis bayesiana". Bioestadística bayesiana . Voltereta: John Wiley & Sons. págs. 72–78. doi :10.1002/9781119942412.ch3. ISBN 978-0-470-01823-1.
3. Ly, Alejandro; et al. (2020). "La metodología bayesiana de Sir Harold Jeffreys como alternativa práctica a la prueba de hipótesis del valor P". Cerebro computacional y comportamiento . 3 (2): 153–161. doi : 10.1007/s42113-019-00070-x . hdl : 2066/226717 .
4. Llorente, Fernando; et al. (2023). "Cálculo de probabilidad marginal para la selección de modelos y prueba de hipótesis: una revisión extensa". Revisión SIAM . aparecer: 3–58. arXiv : 2005.08334 . doi :10.1137/20M1310849. S2CID  210156537.
5. Congdon, Peter (2014). "Estimación de probabilidades del modelo o probabilidades marginales en la práctica". Modelado bayesiano aplicado (2ª ed.). Wiley. págs. 38–40. ISBN 978-1-119-95151-3.
6. Koop, Gary (2003). "Comparación de modelos: la relación de densidad Savage-Dickey". Econometría bayesiana . Voltereta: John Wiley & Sons. págs. 69–71. ISBN 0-470-84567-8.
7. Fabricantes de salarios, Eric-Jan; Lodewyckx, Tom; Kuriyal, Himanshu; Grasman, Raoul (2010). "Prueba de hipótesis bayesianas para psicólogos: un tutorial sobre el método Savage-Dickey" (PDF) . Psicología cognitiva . 60 (3): 158–189. doi :10.1016/j.cogpsych.2009.12.001. PMID  20064637. S2CID  206867662.
8. Ibrahim, José G.; Chen, Ming-Hui; Sinha, Debajyoti (2001). "Comparación de modelos". Análisis de supervivencia bayesiano . Serie Springer en Estadística. Nueva York: Springer. págs. 246-254. doi :10.1007/978-1-4757-3447-8_6. ISBN 0-387-95277-2.
9. Gill, Jeff (2002). "Prueba de hipótesis bayesiana y factor de Bayes". Métodos bayesianos: un enfoque de las ciencias sociales y del comportamiento . Chapman y Hall. págs. 199-237. ISBN 1-58488-288-3.
10. Robert E. Kass y Adrian E. Raftery (1995). "Factores de Bayes" (PDF) . Revista de la Asociación Estadounidense de Estadística . 90 (430): 791. doi : 10.2307/2291091. JSTOR  2291091.
11. Toni, T.; Stumpf, MPH (2009). "Selección de modelos basados ​​en simulación para sistemas dinámicos en biología de sistemas y poblaciones". Bioinformática . 26 (1): 104–10. arXiv : 0911.1705 . doi : 10.1093/bioinformática/btp619. PMC 2796821 . PMID  19880371. 
12. Roberto, CP; J. Cornuet; J. Marin y NS Pillai (2011). "Falta de confianza en la elección aproximada del modelo de cálculo bayesiano". Procedimientos de la Academia Nacional de Ciencias . 108 (37): 15112–15117. Código Bib : 2011PNAS..10815112R. doi : 10.1073/pnas.1102900108 . PMC 3174657 . PMID  21876135. 
13. Jeffreys, Harold (1998) [1961]. La teoría de la probabilidad (3ª ed.). Oxford, Inglaterra. pag. 432.ISBN​ 9780191589676.{{cite book}}: CS1 maint: location missing publisher (link)
14. Bien, IJ (1979). "Estudios de Historia de la Probabilidad y Estadística. XXXVII AM El trabajo estadístico de Turing en la Segunda Guerra Mundial". Biometrika . 66 (2): 393–396. doi :10.1093/biomet/66.2.393. SEÑOR  0548210.
15. Afilando la navaja de Ockham con un asentador bayesiano

Otras lecturas

• Bernardo, J.; Smith, AFM (1994). Teoría bayesiana . Juan Wiley. ISBN 0-471-92416-4.
• Denison, DGT; Holmes, CC; Mallick, BK; Smith, AFM (2002). Métodos bayesianos de clasificación y regresión no lineales . Juan Wiley. ISBN 0-471-49036-9.
• Dienes, Z. (2019). ¿Cómo sé lo que predice mi teoría? Avances en métodos y prácticas en ciencias psicológicas doi :10.1177/2515245919876960
• Duda, Richard O.; Hart, Peter E.; Cigüeña, David G. (2000). "Sección 9.6.5". Clasificación de patrones (2ª ed.). Wiley. págs. 487–489. ISBN 0-471-05669-3.
• Gelman, A.; Carlín, J.; popa, H.; Rubin, D. (1995). Análisis de datos bayesianos . Londres: Chapman & Hall . ISBN 0-412-03991-5.
• Jaynes, ET (1994), Teoría de la probabilidad: la lógica de la ciencia , capítulo 24.
• Kadane, José B.; Dickey, James M. (1980). "Teoría de la decisión bayesiana y simplificación de modelos". En Kmenta, enero; Ramsey, James B. (eds.). Evaluación de Modelos Econométricos . Nueva York: Academic Press. págs. 245–268. ISBN 0-12-416550-8.
• Lee, PM (2012). Estadística bayesiana: una introducción . Wiley. ISBN 9781118332573.
• Ricardo, Marcos; Vecer, enero (2021). "Pruebas de eficiencia de los mercados de predicción: enfoque martingala, índice de verosimilitud y análisis del factor Bayes". Riesgos . 9 (2): 31. doi : 10.3390/riesgos9020031 . hdl : 10419/258120 .
• Winkler, Robert (2003). Introducción a la inferencia y decisión bayesiana (2ª ed.). Probabilístico. ISBN 0-9647938-4-9.

enlaces externos

• BayesFactor: un paquete R para calcular factores Bayes en diseños de investigación comunes
• Calculadora de factores de Bayes: calculadora en línea para factores de Bayes informados
• Calculadoras de factor Bayes Archivadas el 7 de mayo de 2015 en Wayback Machine : versión basada en web de gran parte del paquete BayesFactor.