Estimadores, sesgo y consistencia

Tras observar datos, tn es su estimación numérica. El objetivo θ puede ser una media, varianza, probabilidad u otra función del modelo. La regla debe poder calcularse sin usar el parámetro desconocido.

La distribución de Tn sí depende del verdadero θ, aunque la fórmula de la regla no lo utilice. Sus propiedades se evalúan dentro de un modelo y un mecanismo de selección definidos. Cambiar ese mecanismo puede cambiar sesgo, riesgo y consistencia.

Insesgado significa bθ(T)=0 para cada θ del espacio paramétrico. Requiere que la esperanza exista. La estimación concreta puede alejarse mucho del objetivo aun con sesgo cero.

El sesgo puede depender de θ y de n. Para analizarlo calculamos la distribución o esperanza de la regla, no restamos automáticamente la estimación observada a un parámetro que desconocemos.

Es un riesgo que penaliza errores grandes. Una pérdida absoluta definiría otro criterio; no todas las comparaciones de estimadores responden a la misma pregunta.

Al elevar al cuadrado, el término cruzado tiene esperanza cero porque E(T−ET)=0. Así ECM=Var(T)+sesgo², cuando existen los segundos momentos.

Si T es insesgado para θ y tiene varianza uno, la regla aT tiene sesgo (a−1)θ y varianza a². Su ECM es a²+(a−1)²θ². Reducir a baja dispersión pero añade una desviación del centro hacia cero.

Una comparación debe indicar para qué valores de θ mejora. La palabra sesgado no significa automáticamente peor, y la palabra contraído tampoco significa mejor para todos los parámetros.

No significa sesgo cero en cada n, ni acierto exacto en una muestra grande. La convergencia se refiere a una secuencia y a su modelo.

Una regla que usa cada vez más información puede ser consistente aun con pequeño desplazamiento finito. Una regla que ignora todas las observaciones nuevas puede ser insesgada y no mejorar al crecer el número de filas.

Por eso sesgo→0 y varianza→0 son suficientes. Insesgadez por sí sola no basta.

La convergencia en probabilidad puede ocultar errores raros y enormes. Sin control adicional de integrabilidad, no permite intercambiar automáticamente el límite con la esperanza ni concluir ECM→0. El siguiente contraejemplo usa una regla calculable sin conocer θ.

Sea Q=Σ(Xi−X̄)² en una muestra iid de media μ y varianza finita σ².

La igualdad usa que la suma de Xi−μ es n(X̄−μ).

Por tanto Q/n tiene sesgo −σ²/n. La resta aparece porque el centro se ajustó a esa misma muestra, y dejó residuos más pequeños en promedio.

Para n≥2, S²=Q/(n−1) tiene esperanza σ² bajo iid y segundo momento finito. La normalidad solo es necesaria para algunas leyes exactas adicionales, no para esta identidad de esperanza.

Una transformación no conserva en general la insesgadez. El mismo cuidado se aplica a otros parámetros, como cuadrar un estimador insesgado de un extremo.

Entre reglas insesgadas del mismo parámetro, menor varianza equivale a menor ECM. Fuera de esa clase hay que incluir el sesgo. Consistencia es una garantía asintótica, no una ordenación completa para cada tamaño finito.

La sensibilidad a valores extremos, errores de medición y cambios del modelo también importa. Una regla puede ser óptima bajo ciertas hipótesis y frágil fuera de ellas. No se cambia de media a mediana sin reconocer que puede cambiar el parámetro objetivo.