Modelo de urna Pólya

En estadística , un modelo de urna de Pólya (también conocido como esquema de urna de Pólya o simplemente como urna de Pólya ), llamado así en honor a George Pólya , es una familia de modelos de urna que se pueden utilizar para interpretar muchos modelos estadísticos de uso común .

El modelo representa objetos de interés (como átomos, personas, coches, etc.) como bolas de colores en una urna . En el modelo básico de urna de Pólya, el experimentador coloca x bolas blancas e y negras en una urna. En cada paso, se extrae una bola uniformemente al azar de la urna y se observa su color; luego se devuelve a la urna y se agrega a la urna una bola adicional del mismo color.

Si por casualidad se extraen más bolas negras que blancas en los primeros sorteos, sería más probable que se extrajeran más bolas negras más adelante. Lo mismo ocurre con las bolas blancas. Por tanto, la urna tiene una propiedad de refuerzo (" los ricos se hacen más ricos "). Es lo opuesto al muestreo sin reemplazo , donde cada vez que se observa un valor particular, es menos probable que se vuelva a observar, mientras que en un modelo de urna Pólya, es más probable que se vuelva a observar un valor observado. En un modelo de urna de Pólya, los sucesivos actos de medición a lo largo del tiempo tienen cada vez menos efecto en mediciones futuras, mientras que en el muestreo sin reemplazo ocurre lo contrario: después de un cierto número de mediciones de un valor particular, ese valor nunca volverá a verse. .

También se diferencia del muestreo con reposición, donde la bola se devuelve a la urna pero sin añadir bolas nuevas. En este caso, no hay ni autorrefuerzo ni anti-autorrefuerzo.

Resultados básicos

Cuestiones de interés son la evolución de la población de urnas y la secuencia de colores de las bolas extraídas.

Después de los sorteos, la probabilidad de que la urna contenga bolas blancas y negras es , donde la barra superior indica un factorial creciente . Esto se puede demostrar dibujando el triángulo de Pascal de todas las configuraciones posibles. ${\displaystyle n}$ ${\displaystyle (x+n_{1})}$ ${\displaystyle (y+n_{2})}$ ${\displaystyle {\binom {n}{n_{1}}}{\frac {x^{{\bar {n}}_{1}}y^{{\bar {n}}_{2}}}{(x+y)^{\bar {n}}}}}$

De manera más general, si la urna comienza con bolas de color , con , luego de los sorteos, la probabilidad de que la urna contenga bolas de color es ${\displaystyle a_{i}}$ ${\displaystyle i}$ ${\displaystyle i=1,2,...,k}$ ${\displaystyle n}$ ${\displaystyle (a_{i}+n_{i})}$ ${\displaystyle i}$

$${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}{\frac {\prod _{i=1}^{k}a_{i}^{{\bar {n}}_{i}}}{(\sum _{i}a_{i})^{\bar {n}}}}}$$

coeficiente multinomial

Con la condición de que la urna termine con bolas de color después de los sorteos, existen diferentes trayectorias que podrían haber llevado a ese estado final. La probabilidad condicional de cada trayectoria es la misma: . ${\displaystyle (a_{i}+n_{i})}$ ${\displaystyle i}$ ${\displaystyle n}$ ${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}}$ ${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}^{-1}}$

Interpretación

Una de las razones del interés en este modelo de urna bastante elaborado (es decir, con duplicación y luego reemplazo de cada bola extraída) es que proporciona un ejemplo en el que el recuento (inicialmente x negro e y blanco) de bolas en la urna no es oculto, que es capaz de aproximarse a la actualización correcta de las probabilidades subjetivas apropiadas para un caso diferente en el que el contenido original de la urna está oculto mientras se realiza un muestreo ordinario con reemplazo (sin la duplicación de bolas de Pólya). Debido al simple esquema de "muestreo con reemplazo" en este segundo caso, el contenido de la urna ahora es estático , pero esta mayor simplicidad se compensa con la suposición de que el contenido de la urna ahora es desconocido para el observador. Se puede realizar un análisis bayesiano de la incertidumbre del observador sobre el contenido inicial de la urna, utilizando una elección particular de distribución previa (conjugada). Específicamente, supongamos que un observador sabe que la urna contiene solo bolas idénticas, cada una de ellas de color blanco o negro, pero no sabe el número absoluto de bolas presentes, ni la proporción que son de cada color. Supongamos que tienen creencias previas sobre estas incógnitas: para ellos, la distribución de probabilidad del contenido de la urna se aproxima bien mediante alguna distribución previa para el número total de bolas en la urna, y una distribución beta previa con parámetros (x,y) para la proporción inicial de estos que son negros, proporción que se considera (para ellos) aproximadamente independiente del número total. Entonces, el proceso de resultados de una sucesión de extracciones de la urna (con reemplazo pero sin duplicación) tiene aproximadamente la misma ley de probabilidad que el esquema Pólya anterior en el que el contenido real de la urna no estaba oculto para ellos. El error de aproximación aquí se relaciona con el hecho de que una urna que contiene un número finito conocido de bolas , por supuesto, no puede tener una proporción desconocida de bolas negras exactamente distribuida en beta, ya que el dominio de valores posibles para esa proporción se limita a ser múltiplos de , en lugar de tener total libertad para asumir cualquier valor en el intervalo unitario continuo, como lo haría una proporción exactamente distribuida beta. Esta explicación ligeramente informal se proporciona por motivos de motivación y puede hacerse más precisa matemáticamente. ${\displaystyle 1/m}$

Este modelo básico de urna Pólya se ha generalizado de muchas maneras.

Distribuciones relacionadas con la urna Pólya

• Distribución beta binomial : Distribución del número de sorteos (ensayos) exitosos, por ejemplo, número de extracciones de bola blanca, dados los sorteos de una urna Pólya. ${\displaystyle n}$
• Distribución binomial beta negativa : la distribución del número de bolas blancas observadas hasta que se observa un número fijo de bolas negras.
• Distribución multinomial de Dirichlet (también conocida como distribución multivariada de Pólya ): la distribución sobre el número de bolas de cada color, dada, se extrae de una urna de Pólya donde hay diferentes colores en lugar de solo dos. ${\displaystyle n}$ ${\displaystyle k}$
• Distribución multinomial negativa de Dirichlet : la distribución sobre el número de bolas de cada color hasta que se observa un número fijo de bolas de colores que se detienen.
• Martingalas , distribución Beta-binomial y distribución beta : Sean w y b el número de bolas blancas y negras inicialmente en la urna, y el número de bolas blancas actualmente en la urna después de n sorteos. Entonces la secuencia de valores para es una versión normalizada de la distribución Beta-binomial . Es una martingala y converge a la distribución beta cuando n  → ∞. ${\displaystyle w+n_{w}}$ ${\displaystyle {\frac {w+n_{w}}{w+b+n}}}$ ${\displaystyle n=1,2,3,\dots }$
• Proceso de Dirichlet , proceso de restaurante chino , urna Hoppe : Imagine un esquema de urna Pólya modificado de la siguiente manera. Empezamos con una urna con bolas negras. Al sacar una bola de la urna, si sacamos una bola negra, la colocamos de nuevo junto con una nueva bola de un nuevo color no negro generada aleatoriamente a partir de una distribución uniforme sobre un conjunto infinito de colores disponibles, y consideramos la nueva bola generada. El color será el "valor" del sorteo. De lo contrario, vuelva a colocar la bola junto con otra bola del mismo color, como en el esquema de urna estándar de Pólya. Los colores de una secuencia infinita de dibujos de este esquema de urna Pólya modificado siguen el proceso de un restaurante chino . Si, en lugar de generar un nuevo color, extraemos un valor aleatorio de una distribución base determinada y usamos ese valor para etiquetar la bola, las etiquetas de una secuencia infinita de sorteos siguen un proceso de Dirichlet . ^[1] ${\displaystyle \alpha }$
• Modelo de Moran : modelo de urna utilizado para modelar la deriva genética en genética de poblaciones teórica . Es muy similar al modelo de urna Pólya excepto que, además de agregar una nueva bola del mismo color, se retira de la urna una bola extraída al azar. Por tanto, el número de bolas en la urna permanece constante. El muestreo continuo conduce finalmente a una urna con todas las bolas de un color, siendo la probabilidad de que cada color sea la proporción de ese color en la urna original. Hay variantes del modelo de Moran que insisten en que la bola extraída de la urna sea una bola diferente de la originalmente muestreada en ese paso, y variantes que retiran una bola inmediatamente después de que la nueva bola se coloca en la urna, de modo que la nueva bola es una de las bolas disponibles para ser retiradas. Esto marca una pequeña diferencia en el tiempo necesario para alcanzar el estado en el que todas las bolas son del mismo color. El proceso de Moran modela la deriva genética en una población con generaciones superpuestas.

Intercambiabilidad

La Urna de Polya es un ejemplo por excelencia de un proceso intercambiable .

Supongamos que tenemos una urna que contiene bolas blancas y bolas negras. Procedemos a sacar bolas al azar de la urna. En el -ésimo sorteo, definimos una variable aleatoria, , por si la bola es negra y no. Luego devolvemos la bola a la urna, con una bola adicional del mismo color. Para un dado , si tenemos eso para muchos , entonces es más probable que sea así , porque se han agregado más bolas negras a la urna. Por tanto, estas variables no son independientes entre sí. ${\displaystyle \gamma }$ ${\displaystyle \alpha }$ ${\displaystyle i}$ ${\displaystyle X_{i}}$ ${\displaystyle X_{i}=1}$ ${\displaystyle X_{i}=0}$ ${\displaystyle i}$ ${\displaystyle X_{j}=1}$ ${\displaystyle j<i}$ ${\displaystyle X_{i}=1}$

Sin embargo, la secuencia exhibe la propiedad más débil de intercambiabilidad. ^[2] Recuerde que una secuencia (finita o infinita) de variables aleatorias se llama intercambiable si su distribución conjunta es invariante bajo permutaciones de índices. ${\displaystyle X_{1},X_{2},X_{3},\dots }$

Para mostrar la intercambiabilidad de la secuencia , supongamos que se recogen bolas de la urna y que, de estas bolas, las bolas son blancas y negras. En el primer sorteo, el número de bolas en la urna es ; en el segundo sorteo lo es y así sucesivamente. En el sorteo -ésimo, el número de bolas será . La probabilidad de que saquemos primero todas las bolas negras y luego todas las blancas está dada por ${\displaystyle X_{1},X_{2},X_{3},\dots }$ ${\displaystyle n}$ ${\displaystyle n}$ ${\displaystyle k}$ ${\displaystyle n-k}$ ${\displaystyle \gamma +\alpha }$ ${\displaystyle \gamma +\alpha +1}$ ${\displaystyle i}$ ${\displaystyle \gamma +\alpha +i-1}$ ${\displaystyle k}$ ${\displaystyle n-k}$ ${\displaystyle \mathbb {P} \left(X_{1}=1,\dots ,X_{k}=1,X_{k+1}=0,\dots ,X_{n}=0\right)={\frac {\alpha }{\gamma +\alpha }}\times {\frac {\alpha +1}{\gamma +\alpha +1}}\times \cdots \times {\frac {\alpha +k-1}{\gamma +\alpha +k-1}}\times {\frac {\gamma }{\gamma +\alpha +k}}\times {\frac {\gamma +1}{\gamma +\alpha +k+1}}\times \cdots \times {\frac {\gamma +n-k-1}{\gamma +\alpha +n-1}}}$

Ahora debemos demostrar que si se permuta el orden de las bolas blancas y negras, no hay cambio en la probabilidad. Como en la expresión anterior, incluso después de permutar los sorteos, el enésimo denominador siempre será , ya que este es el número de bolas en la urna en esa ronda. ${\displaystyle i}$ ${\displaystyle \gamma +\alpha +i-1}$

Si vemos la -ésima bola negra en la ronda , la probabilidad será igual a , es decir, el numerador será igual a . Con el mismo argumento podemos calcular la probabilidad de las bolas blancas. Por lo tanto, para cualquier secuencia en la que ocurre veces y ocurre veces (es decir, una secuencia con bolas negras y blancas extraídas en algún orden) la probabilidad final será igual a la siguiente expresión, donde aprovechamos la conmutatividad de la multiplicación en el numerador: ${\displaystyle j}$ ${\displaystyle t}$ ${\displaystyle X_{t}=1}$ ${\displaystyle {\frac {\alpha +j-1}{\gamma +\alpha +t-1}}}$ ${\displaystyle \alpha +j-1}$ ${\displaystyle x_{1},x_{2},x_{3},\dots }$ ${\displaystyle 1}$ ${\displaystyle k}$ ${\displaystyle 0}$ ${\displaystyle n-k}$ ${\displaystyle k}$ ${\displaystyle n-k}$

$${\displaystyle {\begin{aligned}\mathbb {P} (X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&={\frac {\prod _{i=1}^{k}\left(\alpha +i-1\right)\times \prod _{i=1}^{n-k}\left(\gamma +i-1\right)}{\prod _{i=1}^{n}\left(\gamma +\alpha +i-1\right)}}\\&={\frac {\left(\alpha +k-1\right)!\times \left(\gamma +n-k-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}}$$

Esta probabilidad no está relacionada con el orden en que se ven las bolas blancas y negras y solo depende del número total de bolas blancas y del número total de bolas negras. ^[2]

Según el teorema de De Finetti , debe haber una distribución previa única tal que la distribución conjunta de observar la secuencia sea una mezcla bayesiana de las probabilidades de Bernoulli. Se puede demostrar que esta distribución previa es una distribución beta con parámetros . En el teorema de De Finetti, si reemplazamos por , obtenemos la ecuación anterior: ^[2] ${\displaystyle \beta \left(\cdot ;\,\alpha ,\,\gamma \right)}$ ${\displaystyle \pi (\cdot )}$ ${\displaystyle \beta \left(\cdot ;\,\alpha ,\,\gamma \right)}$

$${\displaystyle {\begin{aligned}p(X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,\beta \left(\theta ;\alpha ,\,\gamma \right)d\left(\theta \right)\\&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\theta ^{\alpha -1}(1-\theta )^{\gamma -1}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha -1+\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n+\gamma -1-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(n-k-1+\gamma \right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(n-k+\gamma -1\right)}\,d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}{\dfrac {\Gamma (\gamma +n-k)\Gamma (\alpha +k)}{\Gamma (\alpha +\gamma +n)}}\\&={\dfrac {\left(\alpha +k-1\right)!\times \left(\gamma +n-k-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}}$$

En esta ecuación . ${\displaystyle k=\sum _{i=1}^{n}x_{i}}$

Ver también

• Proceso Pitman-Yor
• proceso morán
• proceso de navidad
• Teorema de De Finetti
• proceso de restaurante chino

Referencias

1. Hoppe, Fred (1984). "Las urnas tipo Pólya y la fórmula de muestreo de los Ewen". Revista de biología matemática . 20 : 91. doi : 10.1007/BF00275863. hdl : 2027.42/46944 . S2CID  122994288.
2. Hoppe, Fred M (1984). "Las urnas tipo Polya y la fórmula de muestreo de los Ewen". Revista de biología matemática . 20 (1): 91–94. doi :10.1007/bf00275863. hdl : 2027.42/46944 . ISSN  0303-6812. S2CID  122994288.^{[ enlace muerto ]}

Otras lecturas

• F. Alajaji y T. Fuja, "Un canal de comunicación modelado sobre el contagio", IEEE Transactions on Information Theory, vol. 40, págs. 2035-2041, noviembre de 1994.
• A. Banerjee, P. Burlina y F. Alajaji, "Segmentación y etiquetado de imágenes utilizando el modelo de urna de Pólya", IEEE Transactions on Image Processing, vol. 8, núm. 9, págs. 1243-1253, septiembre de 1999.

Bibliografía

• NL Johnson y S.Kotz, (1977) "Modelos de urnas y su aplicación". Juan Wiley.
• Hosam Mahmoud, (2008) "Modelos de urnas de Pólya". Chapman y Hall/CRC. ISBN 978-1420059830 .