Estadística lineal de Bayes

La estadística lineal de Bayes es una metodología y un marco estadístico subjetivista. El análisis bayesiano subjetivo tradicional se basa en distribuciones de probabilidad completamente especificadas , que son muy difíciles de especificar con el nivel de detalle necesario. El análisis lineal de Bayes intenta resolver este problema desarrollando teoría y práctica para el uso de modelos de probabilidad parcialmente especificados. Bayes lineal en su forma actual ha sido desarrollado principalmente por Michael Goldstein. Matemática y filosóficamente extiende el enfoque subjetivo operacional de Bruno de Finetti a la probabilidad y la estadística.

Motivación

Considere primero un análisis bayesiano tradicional en el que espera conocer en breve D y le gustaría saber más sobre algún otro B observable . En el enfoque bayesiano tradicional se requiere que se enumeren todos los resultados posibles, es decir, cada resultado posible es el producto cruzado de la partición de un conjunto de B y D. Si se representa en una computadora donde B requiere n bits y Dm bits , entonces el número de estados requeridos es . El primer paso para tal análisis es determinar las probabilidades subjetivas de una persona, por ejemplo, preguntándole sobre su comportamiento en las apuestas para cada uno de estos resultados. Cuando aprendemos D, las probabilidades condicionales de B se determinan mediante la aplicación de la regla de Bayes. ${\displaystyle 2^{n+m}}$

Los profesionales de la estadística bayesiana subjetiva analizan habitualmente conjuntos de datos cuyo tamaño es lo suficientemente grande como para que las probabilidades subjetivas no puedan determinarse de manera significativa para cada elemento de D × B. Esto normalmente se logra asumiendo intercambiabilidad y luego el uso de modelos parametrizados con distribuciones previas sobre los parámetros y apelando al teorema de de Finetti para justificar que esto produce probabilidades subjetivas operativas válidas sobre D × B. La dificultad con este enfoque es que la validez del análisis estadístico requiere que las probabilidades subjetivas sean una buena representación de las creencias de un individuo; sin embargo, este método da como resultado una especificación muy precisa sobre D × B y, a menudo, es difícil articular lo que sería. Significa adoptar estas especificaciones de creencias.

A diferencia del paradigma bayesiano tradicional, la estadística lineal de Bayes que sigue a De Finetti utiliza la previsión o expectativa subjetiva como primitiva, la probabilidad se define entonces como la expectativa de una variable indicadora. En lugar de especificar una probabilidad subjetiva para cada elemento de la partición D × B, el analista especifica expectativas subjetivas para sólo unas pocas cantidades que le interesan o sobre las que siente que tiene conocimiento. Entonces, en lugar de condicionar, una expectativa ajustada se calcula mediante una regla que es una generalización de la regla de Bayes que se basa en la expectativa.

El uso de la palabra lineal en el título se refiere a los argumentos de De Finetti de que la teoría de la probabilidad es una teoría lineal (de Finetti argumentó en contra del enfoque más común de la teoría de la medida).

Ejemplo

En la estadística lineal de Bayes, el modelo de probabilidad sólo se especifica parcialmente y no es posible calcular la probabilidad condicional mediante la regla de Bayes. En cambio, Bayes lineal sugiere el cálculo de una Expectativa Ajustada.

Para realizar un análisis lineal de Bayes es necesario identificar algunos valores que espera conocer en breve realizando mediciones D y algún valor futuro que le gustaría conocer B. Aquí D se refiere a un vector que contiene datos y B a un vector que contiene cantidades que le gustaría predecir. Para el siguiente ejemplo, B y D se consideran vectores bidimensionales, es decir

${\displaystyle B=(Y_{1},Y_{2}),~D=(X_{1},X_{2}).}$

Para especificar un modelo lineal de Bayes es necesario proporcionar expectativas para los vectores B y D , y también especificar la correlación entre cada componente de B y cada componente de D.

Por ejemplo, las expectativas se especifican como:

${\displaystyle E(Y_{1})=5,~E(Y_{2})=3,~E(X_{1})=5,~E(X_{2})=3}$

y la matriz de covarianza se especifica como:

${\displaystyle {\begin{array}{c|cccc}&X_{1}&X_{2}&Y_{1}&Y_{2}\\\hline X_{1}&1&u&\gamma &\gamma \\X_{2}&u&1&\gamma &\gamma \\Y_{1}&\gamma &\gamma &1&v\\Y_{2}&\gamma &\gamma &v&1\\\end{array}}.}$

La repetición en esta matriz tiene algunas implicaciones interesantes que se discutirán en breve.

Una expectativa ajustada es un estimador lineal de la forma

${\displaystyle c_{0}+c_{1}X_{1}+c_{2}X_{2}}$

donde y se eligen para minimizar la pérdida esperada anterior para las observaciones, es decir, en este caso. eso es para ${\displaystyle c_{0},c_{1}}$ ${\displaystyle c_{2}}$ ${\displaystyle Y_{1},Y_{2}}$ ${\displaystyle Y_{1}}$

${\displaystyle E([Y_{1}-c_{0}-c_{1}X_{1}-c_{2}X_{2}]^{2})\,}$

dónde

${\displaystyle c_{0},c_{1},c_{2}\,}$

se eligen para minimizar la pérdida esperada previa al estimar ${\displaystyle Y_{1}}$

En general, la expectativa ajustada se calcula con

${\displaystyle E_{D}(X)=\sum _{i=0}^{k}h_{i}D_{i}.}$

Configuración para minimizar ${\displaystyle h_{0},\dots ,h_{k}}$

${\displaystyle E\left(\left[X-\sum _{i=0}^{k}h_{i}D_{i}\right]^{2}\right).}$

A partir de una prueba proporcionada en (Goldstein y Wooff 2007) se puede demostrar que:

${\displaystyle E_{D}(X)=E(X)+\mathrm {Cov} (X,D)\mathrm {Var} (D)^{-1}(D-E(D)).\,}$

Para el caso en el que Var( D ) no sea invertible, se debe utilizar la pseudoinversa de Moore-Penrose .

Además, la varianza ajustada de la variable X después de observar los datos D viene dada por

${\displaystyle \mathrm {Var} _{D}(X)=\mathrm {Var} (X)-\mathrm {Cov} (X,D)\mathrm {Var} (D)^{-1}\mathrm {Cov} (D,X).}$

Ver también

• Probabilidad imprecisa

enlaces externos

• Métodos lineales de Bayes

Referencias

• Goldstein, M. (1981) Revisión de previsiones: una interpretación geométrica (con discusión) . Revista de la Royal Statistical Society , Serie B, 43(2), 105-130
• Goldstein, M. (2006) Principios y práctica del subjetivismo . Análisis bayesiano][1]
• Michael Goldstein, David Wooff (2007) Estadística, teoría y métodos lineales de Bayes , Wiley. ISBN  978-0-470-01562-9
• de Finetti, B. (1931) "Probabilism: A Critical Essay on the Theory of Probability and on the Value of Science", (traducción del artículo de 1931) en Erkenntnis, volumen 31, septiembre de 1989. Todo el número doble está dedicado a La filosofía de la probabilidad de Finetti.
• de Finetti, B. (1937) “La Prévision: ses lois logiques, ses sources subjetivas”, Annales de l'Institut Henri Poincaré,

- "Foresight: its Logical Laws, Its Subjective Sources" (traducción del artículo de 1937 en francés) en HE Kyburg y HE Smokler (eds), Studies in Subjetive Probability, Nueva York: Wiley, 1964.

• de Finetti, B. (1974) Teoría de la probabilidad , (traducción de A Machi y AFM Smith del libro de 1970) 2 volúmenes, Nueva York: Wiley, 1974-5.