Teorema de Lehmann-Scheffé

Teorema en estadística

En estadística , el teorema de Lehmann-Scheffé es un enunciado destacado que une las ideas de completitud, suficiencia, unicidad y mejor estimación imparcial. ^[1] El teorema establece que cualquier estimador que sea imparcial para una cantidad desconocida dada y que dependa de los datos solo a través de una estadística completa y suficiente es el único mejor estimador imparcial de esa cantidad. El teorema de Lehmann-Scheffé recibe su nombre de Erich Leo Lehmann y Henry Scheffé , dados sus dos primeros artículos. ^{[2] [3]}

Si T es una estadística completa y suficiente para θ y E( g ( T )) =  τ ( θ ) entonces g ( T ) es el estimador insesgado de varianza mínima uniforme (UMVUE) de  τ ( θ ).

Declaración

Sea una muestra aleatoria de una distribución que tiene función de densidad de probabilidad (o función de masa de probabilidad en el caso discreto) donde es un parámetro en el espacio de parámetros. Supongamos que es un estadístico suficiente para θ , y sea una familia completa. Si entonces es la única MVUE de θ . ${\displaystyle {\vec {X}}=X_{1},X_{2},\dots ,X_{n}}$ ${\displaystyle f(x:\theta )}$ ${\displaystyle \theta \in \Omega }$ ${\displaystyle Y=u({\vec {X}})}$ ${\displaystyle \{f_{Y}(y:\theta ):\theta \in \Omega \}}$ ${\displaystyle \varphi :\operatorname {E} [\varphi (Y)]=\theta }$ ${\displaystyle \varphi (Y)}$

Prueba

Por el teorema de Rao-Blackwell , si es un estimador imparcial de θ entonces define un estimador imparcial de θ con la propiedad de que su varianza no es mayor que la de . ${\displaystyle Z}$ ${\displaystyle \varphi (Y):=\operatorname {E} [Z\mid Y]}$ ${\displaystyle Z}$

Ahora demostramos que esta función es única. Supongamos que es otro candidato a estimador MVUE de θ . Luego, nuevamente, se define un estimador insesgado de θ con la propiedad de que su varianza no es mayor que la de . Entonces ${\displaystyle W}$ ${\displaystyle \psi (Y):=\operatorname {E} [W\mid Y]}$ ${\displaystyle W}$

${\displaystyle \operatorname {E} [\varphi (Y)-\psi (Y)]=0,\theta \in \Omega .}$

Ya que es una familia completa ${\displaystyle \{f_{Y}(y:\theta ):\theta \in \Omega \}}$

${\displaystyle \operatorname {E} [\varphi (Y)-\psi (Y)]=0\implies \varphi (y)-\psi (y)=0,\theta \in \Omega }$

y por lo tanto la función es la única función de Y con varianza no mayor que la de cualquier otro estimador imparcial. Concluimos que es la MVUE. ${\displaystyle \varphi }$ ${\displaystyle \varphi (Y)}$

Ejemplo de uso de una estadística mínima suficiente no completa

Galili y Meilijson proporcionaron en 2016 un ejemplo de una mejora de Rao–Blackwell mejorable, cuando se utiliza un estadístico mínimo suficiente que no es completo . ^[4] Sea una muestra aleatoria de una distribución uniforme de escala con media desconocida y parámetro de diseño conocido . En la búsqueda de los "mejores" posibles estimadores insesgados para , es natural considerar como un estimador insesgado inicial (crudo) para y luego tratar de mejorarlo. Dado que no es una función de , el estadístico mínimo suficiente para (donde y ), se puede mejorar utilizando el teorema de Rao–Blackwell de la siguiente manera: ${\displaystyle X_{1},\ldots ,X_{n}}$ ${\displaystyle X\sim U((1-k)\theta ,(1+k)\theta ),}$ ${\displaystyle \operatorname {E} [X]=\theta }$ ${\displaystyle k\in (0,1)}$ ${\displaystyle \theta }$ ${\displaystyle X_{1}}$ ${\displaystyle \theta }$ ${\displaystyle X_{1}}$ ${\displaystyle T=\left(X_{(1)},X_{(n)}\right)}$ ${\displaystyle \theta }$ ${\displaystyle X_{(1)}=\min _{i}X_{i}}$ ${\displaystyle X_{(n)}=\max _{i}X_{i}}$

${\displaystyle {\hat {\theta }}_{RB}=\operatorname {E} _{\theta }[X_{1}\mid X_{(1)},X_{(n)}]={\frac {X_{(1)}+X_{(n)}}{2}}.}$

Sin embargo, se puede demostrar que el siguiente estimador imparcial tiene una varianza menor:

${\displaystyle {\hat {\theta }}_{LV}={\frac {1}{k^{2}{\frac {n-1}{n+1}}+1}}\cdot {\frac {(1-k)X_{(1)}+(1+k)X_{(n)}}{2}}.}$

Y de hecho, se podría mejorar aún más utilizando el siguiente estimador:

${\displaystyle {\hat {\theta }}_{\text{BAYES}}={\frac {n+1}{n}}\left[1-{\frac {{\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}-1}{\left({\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}\right)^{n+1}-1}}\right]{\frac {X_{(n)}}{1+k}}}$

El modelo es un modelo a escala . Luego se pueden derivar estimadores equivariantes óptimos para funciones de pérdida que sean invariantes. ^[5]

Véase también

• Teorema de Basu
• Teorema de clase completo
• Teorema de Rao-Blackwell

Referencias

1. Casella, George (2001). Inferencia estadística . Duxbury Press. pág. 369. ISBN 978-0-534-24312-8.
2. Lehmann, EL ; Scheffé, H. (1950). "Completitud, regiones similares y estimación no sesgada". Sankhyā . 10 (4): 305–340. doi : 10.1007/978-1-4614-1412-4_23 . JSTOR  25048038. MR  0039201.
3. Lehmann, EL ; Scheffé, H. (1955). "Completitud, regiones similares y estimación no sesgada. II". Sankhyā . 15 (3): 219–236. doi : 10.1007/978-1-4614-1412-4_24 . JSTOR  25048243. MR  0072410.
4. Tal Galili; Isaac Meilijson (31 de marzo de 2016). "Un ejemplo de una mejora Rao-Blackwell mejorable, un estimador de máxima verosimilitud ineficiente y un estimador bayesiano generalizado imparcial". The American Statistician . 70 (1): 108–113. doi :10.1080/00031305.2015.1100683. PMC 4960505 . PMID  27499547. 
5. Taraldsen, Gunnar (2020). "Micha Mandel (2020), "El modelo uniforme a escala revisitado", The American Statistician, 74:1, 98–100: Comentario". The American Statistician . 74 (3): 315. doi :10.1080/00031305.2020.1769727. S2CID  219493070.