La probabilidad bayesiana ( / ˈ b eɪ z i ən / BAY -zee-ən o / ˈ b eɪ ʒ ən / BAY -zhən ) [1] es una interpretación del concepto de probabilidad , en la que, en lugar de frecuencia o propensión de algunos En un fenómeno, la probabilidad se interpreta como una expectativa razonable [2] que representa un estado de conocimiento [3] o como una cuantificación de una creencia personal. [4]
La interpretación bayesiana de la probabilidad puede verse como una extensión de la lógica proposicional que permite razonar con hipótesis ; [5] [6] es decir, con proposiciones cuya verdad o falsedad se desconoce. En la visión bayesiana, se asigna una probabilidad a una hipótesis, mientras que bajo la inferencia frecuentista , una hipótesis generalmente se prueba sin que se le asigne una probabilidad.
La probabilidad bayesiana pertenece a la categoría de probabilidades probatorias; Para evaluar la probabilidad de una hipótesis, el probabilista bayesiano especifica una probabilidad previa . Esto, a su vez, se actualiza a una probabilidad posterior a la luz de datos nuevos y relevantes (evidencia). [7] La interpretación bayesiana proporciona un conjunto estándar de procedimientos y fórmulas para realizar este cálculo.
El término bayesiano deriva del matemático y teólogo del siglo XVIII Thomas Bayes , quien proporcionó el primer tratamiento matemático de un problema no trivial de análisis de datos estadísticos utilizando lo que hoy se conoce como inferencia bayesiana . [8] : 131 El matemático Pierre-Simon Laplace fue pionero y popularizó lo que ahora se llama probabilidad bayesiana. [8] : 97–98
Los métodos bayesianos se caracterizan por los conceptos y procedimientos siguientes:
En términos generales, existen dos interpretaciones de la probabilidad bayesiana. Para los objetivistas, que interpretan la probabilidad como una extensión de la lógica , la probabilidad cuantifica la expectativa razonable de que todos (incluso un "robot") que comparte el mismo conocimiento deberían compartirlo de acuerdo con las reglas de la estadística bayesiana, lo que puede justificarse mediante el teorema de Cox . [3] [10] Para los subjetivistas, la probabilidad corresponde a una creencia personal. [4] La racionalidad y la coherencia permiten una variación sustancial dentro de las limitaciones que plantean; las restricciones están justificadas por el argumento del libro holandés o por la teoría de la decisión y el teorema de De Finetti . [4] Las variantes objetiva y subjetiva de la probabilidad bayesiana difieren principalmente en su interpretación y construcción de la probabilidad previa.
El término bayesiano deriva de Thomas Bayes (1702-1761), quien demostró un caso especial de lo que ahora se llama teorema de Bayes en un artículo titulado " Un ensayo para resolver un problema en la doctrina de las posibilidades ". [11] En ese caso especial, las distribuciones anterior y posterior fueron distribuciones beta y los datos provinieron de ensayos de Bernoulli . Fue Pierre-Simon Laplace (1749-1827) quien introdujo una versión general del teorema y lo utilizó para abordar problemas de mecánica celeste , estadística médica, confiabilidad y jurisprudencia . [12] La inferencia bayesiana temprana, que utilizaba antecedentes uniformes siguiendo el principio de razón insuficiente de Laplace , se llamaba " probabilidad inversa " (porque infiere hacia atrás de las observaciones a los parámetros, o de los efectos a las causas). [13] Después de la década de 1920, la "probabilidad inversa" fue suplantada en gran medida por una colección de métodos que llegaron a denominarse estadísticas frecuentistas . [13]
En el siglo XX, las ideas de Laplace se desarrollaron en dos direcciones, dando lugar a corrientes objetivas y subjetivas en la práctica bayesiana.La teoría de la probabilidad de Harold Jeffreys (publicada por primera vez en 1939) jugó un papel importante en el resurgimiento de la visión bayesiana de la probabilidad, seguida de los trabajos de Abraham Wald (1950) y Leonard J. Savage (1954). El propio adjetivo bayesiano data de la década de 1950; El bayesianismo derivado , el neobayesianismo , es acuñado en la década de 1960. [14] [15] [16] En la corriente objetivista, el análisis estadístico depende únicamente del modelo asumido y de los datos analizados. [17] No es necesario que intervengan decisiones subjetivas. Por el contrario, los estadísticos "subjetivistas" niegan la posibilidad de un análisis plenamente objetivo para el caso general.
En la década de 1980, hubo un crecimiento espectacular en la investigación y las aplicaciones de los métodos bayesianos, atribuido principalmente al descubrimiento de los métodos de Monte Carlo de la cadena de Markov y la consiguiente eliminación de muchos de los problemas computacionales, y a un creciente interés en aplicaciones complejas y no estándar. [18] Si bien las estadísticas frecuentistas siguen siendo sólidas (como lo demuestra el hecho de que gran parte de la enseñanza universitaria se basa en ellas [19] ), los métodos bayesianos son ampliamente aceptados y utilizados, por ejemplo, en el campo del aprendizaje automático . [20]
El uso de probabilidades bayesianas como base de la inferencia bayesiana ha sido respaldado por varios argumentos, como los axiomas de Cox , el argumento del libro holandés , argumentos basados en la teoría de la decisión y el teorema de De Finetti .
Richard T. Cox demostró que la actualización bayesiana se deriva de varios axiomas, incluidas dos ecuaciones funcionales y una hipótesis de diferenciabilidad. [10] [21] El supuesto de diferenciabilidad o incluso continuidad es controvertido; Halpern encontró un contraejemplo basado en su observación de que el álgebra de Boole de enunciados puede ser finito. [22] Otras axiomatizaciones han sido sugeridas por varios autores con el propósito de hacer más rigurosa la teoría. [9]
Bruno de Finetti propuso el argumento del libro holandés basado en las apuestas. Un corredor de apuestas inteligente hace una apuesta holandesa fijando las probabilidades y las apuestas para garantizar que el corredor de apuestas obtenga ganancias (a expensas de los jugadores) independientemente del resultado del evento (una carrera de caballos, por ejemplo) en el que los jugadores apostaron. Se asocia con probabilidades implícitas en que las probabilidades no sean coherentes .
Sin embargo, Ian Hacking señaló que los argumentos tradicionales de los libros holandeses no especificaban la actualización bayesiana: dejaban abierta la posibilidad de que reglas de actualización no bayesianas pudieran evitar los libros holandeses. Por ejemplo, Hacking escribe [23] [24] "Y ni el argumento del libro holandés, ni ningún otro en el arsenal personalista de pruebas de los axiomas de probabilidad, implica el supuesto dinámico. Ninguno implica el bayesianismo. Así que el personalista requiere el supuesto dinámico "Ser bayesiano. Es cierto que, en coherencia, un personalista podría abandonar el modelo bayesiano de aprender de la experiencia. La sal podría perder su sabor".
De hecho, existen reglas de actualización no bayesianas que también evitan los libros holandeses (como se analiza en la literatura sobre " cinemática de probabilidad " [25] tras la publicación de la regla de Richard C. Jeffrey , que a su vez se considera bayesiana [26] ). Las hipótesis adicionales suficientes para (exclusivamente) especificar la actualización bayesiana son sustanciales [27] y no universalmente se consideran satisfactorias. [28]
Abraham Wald dio una justificación teórica del uso de la inferencia bayesiana (y, por tanto, de las probabilidades bayesianas) , quien demostró que todo procedimiento estadístico admisible es un procedimiento bayesiano o un límite de los procedimientos bayesianos. [29] Por el contrario, todo procedimiento bayesiano es admisible . [30]
Siguiendo el trabajo sobre la teoría de la utilidad esperada de Ramsey y von Neumann , los teóricos de la decisión han explicado el comportamiento racional utilizando una distribución de probabilidad para el agente . Johann Pfanzagl completó la Teoría de los juegos y el comportamiento económico proporcionando una axiomatización de la probabilidad subjetiva y la utilidad, una tarea que von Neumann y Oskar Morgenstern dejaron incompleta : su teoría original suponía que todos los agentes tenían la misma distribución de probabilidad, por conveniencia. [31] La axiomatización de Pfanzagl fue respaldada por Oskar Morgenstern: "Von Neumann y yo hemos anticipado... [la cuestión de si las probabilidades] podría, tal vez más típicamente, ser subjetiva y hemos afirmado específicamente que en el último caso se podrían encontrar axiomas a partir de los cuales pudimos derivar la utilidad numérica deseada junto con un número para las probabilidades (cf. p. 19 de La teoría de los juegos y del comportamiento económico). Esto no lo llevamos a cabo; lo demostró Pfanzagl... con todo el rigor necesario". . [32]
Ramsey y Savage observaron que la distribución de probabilidad de un agente individual podría estudiarse objetivamente en experimentos. Los procedimientos para probar hipótesis sobre probabilidades (usando muestras finitas) se deben a Ramsey (1931) y de Finetti (1931, 1937, 1964, 1970). Tanto Bruno de Finetti [33] [34] como Frank P. Ramsey [34] [35] reconocen sus deudas con la filosofía pragmática , particularmente (para Ramsey) con Charles S. Peirce . [34] [35]
El "test de Ramsey" para evaluar distribuciones de probabilidad se puede implementar en teoría y ha mantenido ocupados a los psicólogos experimentales durante medio siglo. [36] Este trabajo demuestra que las proposiciones de probabilidad bayesiana pueden ser falsificadas y, por lo tanto, cumplen con un criterio empírico de Charles S. Peirce , cuyo trabajo inspiró a Ramsey. (Este criterio de falsabilidad fue popularizado por Karl Popper . [37] [38] )
El trabajo moderno sobre la evaluación experimental de probabilidades personales utiliza los procedimientos de aleatorización, cegamiento y decisión booleana del experimento de Peirce-Jastrow. [39] Dado que los individuos actúan de acuerdo con diferentes juicios de probabilidad, las probabilidades de estos agentes son "personales" (pero susceptibles de estudio objetivo).
Las probabilidades personales son problemáticas para la ciencia y para algunas aplicaciones donde los tomadores de decisiones carecen del conocimiento o del tiempo para especificar una distribución de probabilidad informada (sobre la cual están preparados para actuar). Para satisfacer las necesidades de la ciencia y las limitaciones humanas, los estadísticos bayesianos han desarrollado métodos "objetivos" para especificar probabilidades previas.
De hecho, algunos bayesianos han argumentado que el estado previo del conocimiento define la distribución de probabilidad previa (única) para problemas estadísticos "normales"; cf. problemas bien planteados . Encontrar el método correcto para construir tales antecedentes "objetivos" (para clases apropiadas de problemas regulares) ha sido la búsqueda de los teóricos de la estadística desde Laplace hasta John Maynard Keynes , Harold Jeffreys y Edwin Thompson Jaynes . Estos teóricos y sus sucesores han sugerido varios métodos para construir antecedentes "objetivos" (desafortunadamente, no está claro cómo evaluar la "objetividad" relativa de los antecedentes propuestos bajo estos métodos):
Cada uno de estos métodos aporta antecedentes útiles para problemas "regulares" de un parámetro, y cada uno de ellos puede manejar algunos modelos estadísticos desafiantes (con "irregularidad" o varios parámetros). Cada uno de estos métodos ha sido útil en la práctica bayesiana. De hecho, métodos para construir antecedentes "objetivos" (alternativamente, "predeterminados" o "ignorancia") han sido desarrollados por bayesianos declarados subjetivos (o "personales") como James Berger ( Universidad de Duke ) y José-Miguel Bernardo ( Universitat de València ). , simplemente porque esos antecedentes son necesarios para la práctica bayesiana, particularmente en la ciencia. [40] La búsqueda de "el método universal para construir antecedentes" continúa atrayendo a los teóricos de la estadística. [40]
Por lo tanto, el estadístico bayesiano necesita utilizar antecedentes informados (utilizando experiencia relevante o datos previos) o elegir entre los métodos en competencia para construir antecedentes "objetivos".
Los trabajos de
Wald
,
Statistical Decision Functions
(1950) y
Savage
,
The Foundation of Statistics
(1954) se consideran comúnmente puntos de partida para los enfoques bayesianos actuales.
Esta revolución, que puede tener éxito o no, es el neobayesianismo.
Jeffreys intentó introducir este enfoque, pero en ese momento no logró darle un atractivo general.
Es curioso que incluso en sus actividades ajenas a la ética, la humanidad busque una religión.
En la actualidad, la religión que más se está "impulsando" es el bayesianismo.
(impresión actualizada, 2007, de Holden-Day, 1976)
Libro de texto clásico actualizado. Teoría bayesiana claramente presentada
