Teoría asintótica de la estimación

Un estimador θ̂ₙ es una regla aplicada a los datos; el parámetro θ describe la distribución que los genera. Consistencia es para cada ε>0. La probabilidad se refiere a repetir el muestreo. No garantiza un error pequeño en toda muestra.

Consistencia sola no especifica velocidad, sesgo ni distribución del error. Para una media iid con varianza σ² finita, Chebyshev da P(|X̄−μ|>ε)≤σ²/(nε²), que sí prueba consistencia. Una perturbación que tienda a cero la conserva, aunque cambie por completo las fluctuaciones a otra escala.

Rₙ=Oₚ(aₙ), para aₙ>0, significa que Rₙ/aₙ está acotado en probabilidad: para cada tolerancia probabilística hay una cota suficientemente grande que sirve para n grandes.

No son cotas deterministas sobre cada realización.

La escala √n corresponde a errores de orden n⁻¹ᐟ². Si √n(θ̂−θ) converge en ley a una variable no degenerada, el error sin escalar se estrecha. El tamaño del límite y la incertidumbre de θ̂ tienen unidades distintas: una varianza límite V corresponde habitualmente a una aproximación V/n para el estimador, bajo condiciones de momentos cuando se interprete como varianza real.

Para Xᵢ iid de media μ y varianza finita σ², Var(X̄)=σ²/n exactamente. Al expandir la varianza de la suma, las covarianzas entre observaciones distintas son cero. El teorema central del límite añade . La flecha compara leyes, sin emparejar caminos.

Con observaciones normales, la media es normal para cada n. Para una población discreta, una media finita sigue siendo discreta y su normalidad es una aproximación. Dependencia o varianza infinita requieren otros teoremas. Si σ²=0, el límite es degenerado y no se divide por cero para estandarizar.

Si Zₙ converge en distribución a Z y Aₙ converge en probabilidad a una constante a, Slutsky permite combinar sumas y productos; para cocientes se exige a≠0. La constancia del límite del denominador es esencial en esa versión.

Para una media iid de varianza finita positiva, un estimador Sₙ consistente de la desviación individual σ produce .

Sₙ y SEₙ no representan la misma dispersión.

Si √n(θ̂−θ)⇒N(0,V) y g es diferenciable en θ, . Por tanto el límite escalado es normal de varianza g′(θ)²V, posiblemente cero. El resto tiene que ser pequeño después de multiplicar por √n, no solo tender a cero sin escala.

En varias dimensiones, si la covarianza límite es Σ y el jacobiano es Dg, la covarianza transformada es DgΣDgᵀ. El teorema deriva en el parámetro verdadero. Para estimar esa covarianza se sustituyen estimaciones consistentes, con continuidad y denominadores no nulos cuando corresponda.

En θ=0, el término lineal desaparece: no desaparece el error, cambia su orden.

No se construye un intervalo normal dividiendo por una varianza delta de primer orden nula.

El score es la derivada de la logdensidad. Bajo condiciones que permiten derivar la integral, su media es cero y su varianza es la información I(θ). Para un estimador consistente que resuelve el score, si el score en θ dividido por √n tiene límite N(0,I) y la curvatura negativa por observación en la expansión converge a I>0, Taylor y Slutsky dan varianza límite I⁻¹.

Identificación, interior del parámetro y control de la expansión son sustanciales. No se declara eficiente cualquier estimador normal: las cotas comparan estimadores regulares del modelo. Si el soporte depende del parámetro, pueden fallar las condiciones del score y aparecer otra escala.

Convergencia en distribución controla funciones continuas acotadas. El cuadrado no es acotado: sucesos cada vez más raros y grandes pueden mantener segundos momentos sin aparecer en la ley límite. Para recuperar convergencia de momentos hacen falta controles adicionales, como integrabilidad uniforme de los cuadrados.

Por eso se distingue varianza límite de √n(θ̂−θ), aproximación V/n y varianza exacta de θ̂. Un resto oₚ puede ser despreciable para una distribución límite y tener colas que alteren momentos. Las hipótesis de momentos no se sustituyen por una figura con forma de campana.

Si el estadístico estandarizado converge a N(0,1) y SEₙ estima correctamente la escala positiva, el intervalo θ̂±z₀,₉₇₅SEₙ tiene cobertura que tiende a 0,95. El valor z es aproximadamente 1,96. No es una promesa de cobertura exacta para toda distribución y todo n.

Con datos normales y σ conocida se obtiene cobertura normal exacta al usar el cuantil exacto. Con σ desconocida y datos normales, el estadístico de la media usa una t de Student con n−1 grados de libertad. La interpretación frecuentista se refiere al procedimiento repetido; no asigna por esa cuenta una probabilidad posterior al parámetro después de fijar los datos.