Reducción de la varianza

La varianza de puntos generados aleatoriamente dentro de un cuadrado unitario se puede reducir mediante un proceso de estratificación.

En matemáticas , más específicamente en la teoría de métodos de Monte Carlo , la reducción de la varianza es un procedimiento utilizado para aumentar la precisión de las estimaciones obtenidas para una simulación o esfuerzo computacional dado. ^[1] Cada variable aleatoria de salida de la simulación está asociada con una varianza que limita la precisión de los resultados de la simulación. Para hacer una simulación estadísticamente eficiente, es decir, para obtener una mayor precisión e intervalos de confianza más pequeños para la variable aleatoria de salida de interés, se pueden utilizar técnicas de reducción de la varianza. Los principales métodos de reducción de la varianza son

• números aleatorios comunes
• variantes antitéticas
• control de variables
• muestreo de importancia
• muestreo estratificado
• momento de coincidencia
• Monte Carlo condicional
• y variables cuasi aleatorias (en el método Quasi-Monte Carlo )

Para la simulación con modelos de caja negra también se puede utilizar la simulación de subconjuntos y el muestreo de líneas . Bajo estos títulos se encuentran diversas técnicas especializadas; por ejemplo, las simulaciones de transporte de partículas hacen un uso extensivo de las técnicas de "ventanas de peso" y "ruleta rusa/división", que son una forma de muestreo de importancia.

Simulación de Monte Carlo en bruto

Supongamos que se desea calcular con la variable aleatoria definida en el espacio de probabilidad . El método Monte Carlo hace esto mediante el muestreo de iid . copias de y luego realiza una estimación mediante el estimador de media de muestra ${\displaystyle z:=E(Z)}$ ${\displaystyle Z}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle Z_{1},...,Z_{R}}$ ${\displaystyle Z}$ ${\displaystyle z}$

${\displaystyle {\overline {z}}={\frac {1}{n}}\sum _{i=1}^{n}Z_{i}}$

En otras condiciones más suaves, como , se aplicará un teorema de límite central de modo que para , la distribución de converge a una distribución normal con media y error estándar . Debido a que la desviación estándar solo converge hacia a la tasa , lo que implica que es necesario aumentar el número de simulaciones ( ) por un factor de para reducir a la mitad la desviación estándar de , los métodos de reducción de la varianza suelen ser útiles para obtener estimaciones más precisas para sin necesidad de un gran número de simulaciones. ${\displaystyle var(Z)<\infty }$ ${\displaystyle n\rightarrow \infty }$ ${\displaystyle {\overline {z}}}$ ${\displaystyle z}$ ${\displaystyle \sigma /{\sqrt {n}}}$ ${\displaystyle 0}$ ${\displaystyle {\sqrt {n}}}$ ${\displaystyle n}$ ${\displaystyle 4}$ ${\displaystyle {\overline {z}}}$ ${\displaystyle z}$

Números aleatorios comunes (CRN)

La técnica de reducción de varianza de números aleatorios comunes es una técnica de reducción de varianza popular y útil que se aplica cuando comparamos dos o más configuraciones alternativas (de un sistema) en lugar de investigar una única configuración. El CRN también se ha denominado muestreo correlacionado , flujos emparejados o pares emparejados .

CRN requiere la sincronización de los flujos de números aleatorios, lo que garantiza que, además de utilizar los mismos números aleatorios para simular todas las configuraciones, un número aleatorio específico utilizado para un propósito específico en una configuración se utilice exactamente para el mismo propósito en todas las demás configuraciones. Por ejemplo, en la teoría de colas, si estamos comparando dos configuraciones diferentes de cajeros en un banco, querríamos que el tiempo (aleatorio) de llegada del cliente N -ésimo se genere utilizando el mismo sorteo de un flujo de números aleatorios para ambas configuraciones.

Principio subyacente de la técnica CRN

Supongamos que y son las observaciones de la primera y segunda configuraciones en la j -ésima réplica independiente. ${\displaystyle X_{1j}}$ ${\displaystyle X_{2j}}$

Queremos estimar

${\displaystyle \xi =E(X_{1j})-E(X_{2j})=\mu _{1}-\mu _{2}.\,}$

Si realizamos n réplicas de cada configuración y dejamos

${\displaystyle Z_{j}=X_{1j}-X_{2j}\quad {\mbox{for }}j=1,2,\ldots ,n,}$

entonces y es un estimador insesgado de . ${\displaystyle E(Z_{j})=\xi }$ ${\displaystyle Z(n)={\frac {\sum _{j=1,\ldots ,n}Z_{j}}{n}}}$ ${\displaystyle \xi }$

Y dado que las son variables aleatorias independientes distribuidas de forma idéntica, ${\displaystyle Z_{j}}$

${\displaystyle \operatorname {Var} [Z(n)]={\frac {\operatorname {Var} (Z_{j})}{n}}={\frac {\operatorname {Var} [X_{1j}]+\operatorname {Var} [X_{2j}]-2\operatorname {Cov} [X_{1j},X_{2j}]}{n}}.}$

En el caso de un muestreo independiente, es decir, no se utilizan números aleatorios comunes, entonces Cov( X _{1 j} , X _{2 j} ) = 0. Pero si logramos inducir un elemento de correlación positiva entre X ₁ y X ₂ tal que Cov( X _{1 j} , X _{2 j} ) > 0, se puede ver en la ecuación anterior que la varianza se reduce.

También se puede observar que si el CRN induce una correlación negativa, es decir, Cov( X _{1 j} , X _{2 j} ) < 0, esta técnica puede resultar contraproducente, ya que la varianza aumenta y no disminuye (como se pretendía). ^[2]

Véase también

• Varianza explicada

Referencias

1. Botev, Z.; Ridder, A. (2017). "Reducción de la varianza". Wiley StatsRef: Statistics Reference Online : 1–6. doi :10.1002/9781118445112.stat07975. ISBN 9781118445112.
2. Hamrick, Jeff. "El método de los números aleatorios comunes: un ejemplo". Proyecto de demostraciones de Wolfram . Consultado el 29 de marzo de 2016 .

• Hammersley, JM; Handscomb, DC (1964). Métodos de Monte Carlo . Londres: Methuen. ISBN 0-416-52340-4.
• Kahn, H.; Marshall, AW (1953). "Métodos para reducir el tamaño de la muestra en los cálculos de Monte Carlo". Revista de la Sociedad de Investigación de Operaciones de Estados Unidos . 1 (5): 263–271. doi :10.1287/opre.1.5.263.
• MCNP: Código general de transporte de partículas N de Monte Carlo, versión 5 Informe de Los Alamos LA-UR-03-1987