Distribución de Rademacher

Distribución de probabilidad discreta

En teoría de probabilidad y estadística , la distribución de Rademacher (que recibe su nombre de Hans Rademacher ) es una distribución de probabilidad discreta donde una variable aleatoria X tiene un 50 % de posibilidades de ser +1 y un 50 % de posibilidades de ser -1. ^[1]

Una serie (es decir, una suma) de variables distribuidas según Rademacher puede considerarse como un simple paseo aleatorio simétrico donde el tamaño del paso es 1.

Formulación matemática

La función de masa de probabilidad de esta distribución es

${\displaystyle f(k)=\left\{{\begin{matrix}1/2&{\mbox{if }}k=-1,\\1/2&{\mbox{if }}k=+1,\\0&{\mbox{otherwise.}}\end{matrix}}\right.}$

En términos de la función delta de Dirac , como

${\displaystyle f(k)={\frac {1}{2}}\left(\delta \left(k-1\right)+\delta \left(k+1\right)\right).}$

Límites de las sumas de variables independientes de Rademacher

Existen varios resultados en la teoría de la probabilidad en torno al análisis de la suma de variables iid de Rademacher, incluidas desigualdades de concentración como las desigualdades de Bernstein , así como desigualdades de anticoncentración como la conjetura de Tomaszewski.

Desigualdades de concentración

Sea { x _i } un conjunto de variables aleatorias con una distribución de Rademacher. Sea { a _i } una secuencia de números reales. Entonces

${\displaystyle \Pr \left(\sum _{i}x_{i}a_{i}>t||a||_{2}\right)\leq e^{-{\frac {t^{2}}{2}}}}$

donde || a || ₂ es la norma euclidiana de la secuencia { a _i }, t > 0 es un número real y Pr( Z ) es la probabilidad del evento Z . ^[2]

Sea Y = Σ x _i a _i y sea Y una serie casi seguramente convergente en un espacio de Banach . Para t > 0 y s ≥ 1 tenemos ^[3]

${\displaystyle \Pr \left(||Y||>st\right)\leq \left[{\frac {1}{c}}\Pr(||Y||>t)\right]^{cs^{2}}}$

para alguna constante c .

Sea p un número real positivo. Entonces la desigualdad de Khintchine dice que ^[4]

${\displaystyle c_{1}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}\leq \left(E\left[\left|\sum {a_{i}x_{i}}\right|^{p}\right]\right)^{\frac {1}{p}}\leq c_{2}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}}$

donde c ₁ y c ₂ son constantes que dependen únicamente de p .

Para p ≥ 1, ${\displaystyle c_{2}\leq c_{1}{\sqrt {p}}.}$

La conjetura de Tomaszewski

En 1986, Bogusław Tomaszewski planteó una cuestión sobre la distribución de la suma de las variables independientes de Rademacher. Una serie de trabajos sobre esta cuestión ^{[5] [6]} culminaron en una demostración en 2020 por parte de Nathan Keller y Ohad Klein de la siguiente conjetura. ^[7]

Conjetura. Sea , donde y las son variables independientes de Rademacher. Entonces ${\displaystyle X=\sum _{i=1}^{n}a_{i}X_{i}}$ ${\displaystyle a_{1}^{2}+\cdots +a_{n}^{2}=1}$ ${\displaystyle X_{i}}$

${\displaystyle \Pr[|X|\leq 1]\geq 1/2.}$

Por ejemplo, cuando , se obtiene el siguiente límite, mostrado por primera vez por Van Zuijlen. ^[8] ${\displaystyle a_{1}=a_{2}=\cdots =a_{n}=1/{\sqrt {n}}}$

${\displaystyle \Pr \left(\left|{\frac {\sum _{i=1}^{n}X_{i}}{\sqrt {n}}}\right|\leq 1\right)\geq 0.5.}$

El límite es nítido y mejor que el que puede derivarse de la distribución normal (aproximadamente Pr > 0,31).

Aplicaciones

La distribución Rademacher se ha utilizado en el arranque .

La distribución de Rademacher se puede utilizar para demostrar que una distribución normal y no correlacionada no implica independencia .

Los vectores aleatorios con componentes muestreados independientemente de la distribución de Rademacher son útiles para varias aproximaciones estocásticas , por ejemplo:

• El estimador de traza de Hutchinson , ^[9] que se puede utilizar para aproximar eficientemente la traza de una matriz cuyos elementos no son directamente accesibles, sino que están definidos implícitamente a través de productos matriz-vector.
• SPSA , una aproximación de gradiente estocástico libre de derivadas y de bajo costo computacional, útil para la optimización numérica .

Las variables aleatorias de Rademacher se utilizan en la desigualdad de simetrización .

Distribuciones relacionadas

• Distribución de Bernoulli : Si X tiene una distribución de Rademacher, entonces tiene una distribución de Bernoulli (1/2). ${\displaystyle {\frac {X+1}{2}}}$
• Distribución de Laplace : si X tiene una distribución de Rademacher e Y ~ Exp(λ) es independiente de X , entonces XY ~ Laplace(0, 1/λ).

Referencias

1. Hitczenko, P.; Kwapień, S. (1994). "Sobre la serie de Rademacher". Probabilidad en espacios de Banach . Progreso en probabilidad. Vol. 35. págs. 31–36. doi :10.1007/978-1-4612-0253-0_2. ISBN 978-1-4612-6682-2.
2. Montgomery-Smith, SJ (1990). "La distribución de las sumas de Rademacher". Proc Amer Math Soc . 109 (2): 517–522. doi : 10.1090/S0002-9939-1990-1013975-0 .
3. Dilworth, SJ; Montgomery-Smith, SJ (1993). "La distribución de series de Radmacher con valores vectoriales". Ann Probab . 21 (4): 2046–2052. arXiv : math/9206201 . doi :10.1214/aop/1176989010. JSTOR  2244710. S2CID  15159626.
4. Hintchine, A. (1923). "Über dyadische Brüche". Matemáticas. Z. 18 (1): 109-116. doi :10.1007/BF01192399. S2CID  119840766.
5. Holzman, Ron; Kleitman, Daniel J. (1992-09-01). "Sobre el producto de vectores de signo y vectores unitarios". Combinatorica . 12 (3): 303–316. doi :10.1007/BF01285819. ISSN  1439-6912. S2CID  20281665.
6. Boppana, Ravi B.; Holzman, Ron (31 de agosto de 2017). "El problema de Tomaszewski sobre sumas con signos aleatorios: rompiendo la barrera 3/8". arXiv : 1704.00350 [math.CO].
7. Keller, Nathan; Klein, Ohad (3 de agosto de 2021). "Prueba de la conjetura de Tomaszewski sobre sumas con signo aleatorio". arXiv : 2006.16834 [math.CO].
8. van Zuijlen, Martien CA (2011). "Sobre una conjetura sobre la suma de variables aleatorias independientes de Rademacher". arXiv : 1112.4988 [matemáticas.PR].
9. Avron, H.; Toledo, S. (2011). "Algoritmos aleatorizados para estimar la traza de una matriz semidefinida positiva simétrica implícita". Revista de la ACM . 58 (2): 8. CiteSeerX 10.1.1.380.9436 . doi :10.1145/1944345.1944349. S2CID  5827717.