Estimación bayesiana recursiva

Proceso para estimar una función de densidad de probabilidad.

En teoría de la probabilidad , estadística y aprendizaje automático , la estimación bayesiana recursiva , también conocida como filtro Bayes , es un enfoque probabilístico general para estimar una función de densidad de probabilidad ( PDF ) desconocida de forma recursiva a lo largo del tiempo utilizando mediciones entrantes y un modelo de proceso matemático. El proceso se basa en gran medida en conceptos y modelos matemáticos que se teorizan dentro de un estudio de probabilidades previas y posteriores conocido como estadística bayesiana .

En robótica

Un filtro Bayes es un algoritmo utilizado en informática para calcular las probabilidades de múltiples creencias y permitir que un robot infiera su posición y orientación. Básicamente, los filtros Bayes permiten a los robots actualizar continuamente su posición más probable dentro de un sistema de coordenadas, en función de los datos de los sensores adquiridos más recientemente. Este es un algoritmo recursivo. Consta de dos partes: predicción e innovación. Si las variables se distribuyen normalmente y las transiciones son lineales, el filtro de Bayes se vuelve igual al filtro de Kalman .

En un ejemplo sencillo, un robot que se mueve a lo largo de una cuadrícula puede tener varios sensores diferentes que le proporcionan información sobre su entorno. El robot podrá empezar con la seguridad de que está en la posición (0,0). Sin embargo, a medida que se aleja cada vez más de su posición original, el robot tiene cada vez menos certeza sobre su posición; Usando un filtro Bayes, se puede asignar una probabilidad a la creencia del robot sobre su posición actual, y esa probabilidad se puede actualizar continuamente a partir de información adicional del sensor.

Modelo

Las mediciones son manifestaciones de un modelo de Markov oculto (HMM), lo que significa que se supone que el estado verdadero es un proceso de Markov no observado . La siguiente imagen presenta una red bayesiana de un HMM. ${\displaystyle z}$ ${\displaystyle x}$

Modelo de Markov oculto

Debido al supuesto de Markov, la probabilidad del estado verdadero actual dado el inmediatamente anterior es condicionalmente independiente de los otros estados anteriores.

${\displaystyle p({\textbf {x}}_{k}|{\textbf {x}}_{k-1},{\textbf {x}}_{k-2},\dots ,{\textbf {x}}_{0})=p({\textbf {x}}_{k}|{\textbf {x}}_{k-1})}$

De manera similar, la medición en el k -ésimo paso de tiempo depende solo del estado actual, por lo que es condicionalmente independiente de todos los demás estados dado el estado actual.

${\displaystyle p({\textbf {z}}_{k}|{\textbf {x}}_{k},{\textbf {x}}_{k-1},\dots ,{\textbf {x}}_{0})=p({\textbf {z}}_{k}|{\textbf {x}}_{k})}$

Usando estos supuestos, la distribución de probabilidad sobre todos los estados del HMM se puede escribir simplemente como

${\displaystyle p({\textbf {x}}_{0},\dots ,{\textbf {x}}_{k},{\textbf {z}}_{1},\dots ,{\textbf {z}}_{k})=p({\textbf {x}}_{0})\prod _{i=1}^{k}p({\textbf {z}}_{i}|{\textbf {x}}_{i})p({\textbf {x}}_{i}|{\textbf {x}}_{i-1}).}$

Sin embargo, cuando se utiliza el filtro de Kalman para estimar el estado x , la distribución de probabilidad de interés se asocia con los estados actuales condicionados a las mediciones hasta el paso de tiempo actual. (Esto se logra marginando los estados anteriores y dividiéndolos por la probabilidad del conjunto de medidas).

Esto conduce a los pasos de predicción y actualización del filtro de Kalman escritos probabilísticamente. La distribución de probabilidad asociada con el estado predicho es la suma (integral) de los productos de la distribución de probabilidad asociada con la transición del ( k - 1) -ésimo paso de tiempo al k -ésimo y la distribución de probabilidad asociada con el estado anterior, sobre todo lo posible . ${\displaystyle x_{k-1}}$

${\displaystyle p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})=\int p({\textbf {x}}_{k}|{\textbf {x}}_{k-1})p({\textbf {x}}_{k-1}|{\textbf {z}}_{1:k-1})\,d{\textbf {x}}_{k-1}}$

La distribución de probabilidad de actualización es proporcional al producto de la probabilidad de medición y el estado previsto.

${\displaystyle p({\textbf {x}}_{k}|{\textbf {z}}_{1:k})={\frac {p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}{p({\textbf {z}}_{k}|{\textbf {z}}_{1:k-1})}}\propto p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}$

el denominador

${\displaystyle p({\textbf {z}}_{k}|{\textbf {z}}_{1:k-1})=\int p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})d{\textbf {x}}_{k}}$

es constante en relación con , por lo que siempre podemos sustituirlo por un coeficiente , que normalmente puede ignorarse en la práctica. El numerador se puede calcular y luego simplemente normalizar, ya que su integral debe ser la unidad. ${\displaystyle x}$ ${\displaystyle \alpha }$

Aplicaciones

• Filtro de Kalman , un filtro bayesiano recursivo para distribuciones normales multivariadas
• Filtro de partículas , una técnica secuencial basada en Monte Carlo (SMC), que modela la PDF utilizando un conjunto de puntos discretos
• Estimadores basados ​​en cuadrículas , que subdividen el PDF en una cuadrícula discreta determinista

Filtrado bayesiano secuencial

El filtrado bayesiano secuencial es la extensión de la estimación bayesiana para el caso en que el valor observado cambia con el tiempo. Es un método para estimar el valor real de una variable observada que evoluciona en el tiempo.

Hay varias variaciones:

filtración

al estimar el valor actual dadas las observaciones pasadas y actuales,

suavizado

al estimar valores pasados ​​dadas observaciones pasadas y actuales, y

predicción

al estimar un valor futuro probable dadas las observaciones pasadas y actuales.

La noción de filtrado bayesiano secuencial se utiliza ampliamente en control y robótica .

Otras lecturas

• Arulampalam, M. Sanjeev; Maskell, Simón; Gordon, Neil (2002). "Un tutorial sobre filtros de partículas para el seguimiento bayesiano no lineal/no gaussiano en línea". Transacciones IEEE sobre procesamiento de señales . 50 (2): 174–188. CiteSeerX  10.1.1.117.1144 . doi : 10.1109/78.978374.
• Burkhart, Michael C. (2019). "Capítulo 1. Descripción general del filtrado bayesiano". "Un enfoque discriminativo del filtrado bayesiano con aplicaciones a la decodificación neuronal humana" . Providence, RI, Estados Unidos: Universidad de Brown. doi :10.26300/nhfp-xv22.
• Chen, Zhe sabio (2003). "Filtrado bayesiano: de filtros de Kalman a filtros de partículas y más". Estadísticas: una revista de estadística teórica y aplicada . 182 (1): 1–69.
• Diard, Julien; Bessière, Pierre; Mazer, Emmanuel (2003). "Un estudio de modelos probabilísticos, utilizando la metodología de programación bayesiana como marco unificador" (PDF) . cogprints.org.
• Särkkä, Simo (2013). Filtrado y suavizado bayesiano (PDF) . Prensa de la Universidad de Cambridge.
• Volkov, Alejandro (2015). "Límites de precisión del seguimiento bayesiano no gaussiano en un entorno NLOS". Procesamiento de la señal . 108 : 498–508. doi :10.1016/j.sigpro.2014.10.025.