La PizarraMatemática.

Máster y doctorado

Estimación no paramétrica

Queremos dibujar una densidad o una regresión sin elegir desde el principio una familia con pocos parámetros. Los datos solos no deciden cuánto detalle es real. Construiremos una curva con pequeñas copias alrededor de cada observación y veremos el compromiso entre suavizar demasiado y seguir demasiado el ruido.

1. Estimamos una función dentro de una clase, no una curva arbitraria sin restricciones

Un modelo no paramétrico permite que la densidad o regresión varíe en una clase de funciones, sin un número fijo de parámetros que la describa toda. La complejidad usada puede crecer con n. Siguen siendo necesarias hipótesis sobre muestreo, suavidad, dominio y criterio de error.

Una densidad f es no negativa e integra uno; su valor es masa por unidad de longitud.

Para una variable continua, P(X=x)=0 aunque f(x)>0.

Una regresión m(x)=E(Y|X=x) tiene otras unidades y no tiene que integrar uno. Primero fijamos cuál de estas funciones queremos estimar.

Una altura puede ser mayor que uno

X uniforme en (0,1/4).

  1. Densidad

    f(x)=4 dentro de su soporte.
  2. Área total

    Altura cuatro por anchura un cuarto da uno.

  3. Probabilidad

    En un subintervalo de anchura 1/8 dentro del soporte, la probabilidad es 4·1/8=1/2.

Resultado

La altura cuatro no es una probabilidad del 400 %.

Lo comprobamos

La probabilidad se obtiene integrando sobre una región.

Dos preguntas sobre los mismos datos

Observamos edades X y tiempos de respuesta Y.

  1. Densidad

    f_{X}(x) describe cómo se reparten las edades.

  2. Regresión

    m(x) describe el tiempo de respuesta medio a esa edad.

  3. Unidades

    Una se mide por unidad de edad; la otra en unidades de tiempo.

Resultado

No se interpreta una curva de regresión como una densidad.

Lo comprobamos

Las dos tareas necesitarán regularización, pero sus objetivos son distintos.

2. Cada dato coloca una copia del núcleo y el promedio conserva la masa

Para datos iid X₁,…,Xₙ y h>0, \widehat f_h(x)=\frac1{nh}\sum_{i=1}^n K\left(\frac{x-X_i}{h}\right). K es el núcleo y h el ancho. Para construir una densidad aquí tomamos K≥0 e ∫K=1. La copia individual h⁻¹K((x−Xᵢ)/h) tiene masa uno; al ponderarla por 1/n aporta masa 1/n.

Cada dato aporta una copia de masa uno sobre n
Datos: 0 y 1; h=1Copias ponderadasCada copia: área 1/2Suma de las dos copias−1012Área total: 1/4+1/2+1/4=1Altura ≠ probabilidad puntual.
Dos observaciones en cero y uno, núcleo uniforme de altura un medio en menos uno a uno y ancho h igual uno. Cada copia ponderada tiene altura un cuarto, anchura dos y área un medio. Arriba se superponen las dos copias con colores distintos; abajo se muestra su suma: altura un cuarto entre menos uno y cero, un medio entre cero y uno y un cuarto entre uno y dos. La integral total es uno. Las escalas horizontales y de altura son comunes entre ambos paneles; los valores en extremos individuales no cambian las áreas. Una densidad mide masa por longitud y su altura no es una probabilidad puntual.
El cambio u=(x−Xᵢ)/h da dx=hdu y cancela 1/h en la integral.
Usaremos K(u)=1/2 para |u|≤1 y cero fuera.

Elegimos extremos incluidos para evaluar ejemplos puntuales; cambiar solo los extremos no altera integrales, pero sí puede cambiar un valor del estimador exactamente en una discontinuidad.

Sumar dos ventanas superpuestas

Datos 0 y 1, h=1; evaluar en x=1/2.

  1. Argumentos

    (1/2−0)/1=1/2 y (1/2−1)/1=−1/2.
  2. Núcleos

    Ambos valen 1/2; la suma es uno.

  3. Normalizar

    1/(nh)=1/2: f̂(1/2)=1/2.
Resultado

En x=3/2 solo entra el dato uno y la altura sería 1/4.

Lo comprobamos

Las áreas de las dos copias ponderadas suman uno.

Una ventana estrecha y un único dato

n=1, X₁=2 y h=1/4.

  1. Soporte

    La copia vive en [2−1/4,2+1/4].

  2. Altura

    1/(2h)=2.
  3. Área

    Anchura 1/2 por altura dos da uno.

Resultado

Reducir h estrecha la copia y aumenta su altura para conservar masa.

Lo comprobamos

No se ha demostrado que esta curva coincida con la densidad real de la población.

3. La esperanza revela el sesgo de suavizado

Al promediar sobre muestras, \mathbb E\widehat f_h(x)=\int K(u)f(x-hu)\,du. Es una versión suavizada de f. El sesgo es esa esperanza menos f(x), no la diferencia de una sola muestra con la curva desconocida.

Para un núcleo simétrico de soporte compacto y segundo momento μ₂(K)=∫u²K(u)du, en un punto interior donde f es C², Taylor da sesgo=(h²/2)μ₂(K)f″(x)+o(h²). El primer momento se anula por simetría. El orden y las constantes necesitan esas hipótesis; no son una propiedad de cualquier curva.

Una región plana no tiene este sesgo interior

f=1/4 en (−2,2), x=0 y núcleo uniforme con h<2.

  1. Ventana

    Todos los valores −hu de la integral quedan dentro de la región plana, salvo extremos irrelevantes.

  2. Esperanza

    ∫K(u)·(1/4)du=1/4.
  3. Sesgo

    Coincide con f(0): el sesgo es cero.

Resultado

No toda ventana fija produce sesgo en todo punto.

Lo comprobamos

Cerca de los bordes del soporte cambia el cálculo.

La curvatura da el signo del sesgo

Densidad normal estándar en x=0; núcleo uniforme.

  1. Momento del núcleo

    μ₂(K)=(1/2)∫₋₁¹u²du=1/3.
  2. Curvatura

    f″(0)=−f(0).
  3. Primer término

    Sesgo=−h²f(0)/6+o(h²), negativo en el pico.
Resultado

Promediar alrededor del máximo tiende a bajar su altura.

Lo comprobamos

No se interpreta el término principal como identidad exacta para cualquier h.

4. Una ventana estrecha usa menos vecinos y aumenta la variabilidad

La independencia divide por n la varianza de una contribución. Si f es continua y positiva en x, K es acotado de soporte compacto y h→0, la varianza principal es \frac{f(x)R(K)}{nh},\qquad R(K)=\int K(u)^2du. El ancho controla cuántos datos contribuyen cerca del punto.

En este marco, h→0 reduce el sesgo y nh→∞ hace desaparecer la varianza, dando consistencia puntual. Hacer h pequeño sin relacionarlo con n no basta. La varianza exacta, cuando existe, es (1/(nh))∫K²(u)f(x−hu)du−(E f̂_h(x))²/n.

Un caso con fórmula exacta por recuento

Población uniforme en (−2,2), x=0, h=1/2 y n=100.

  1. Probabilidad local

    P(|X|≤h)=2h/4=1/4.
  2. Estimador

    Con K uniforme, f̂ es el recuento local dividido por 2nh.

  3. Varianza

    p(1−p)/(4nh²)=(1/4)(3/4)/100=3/1600.
Resultado

Aquí la varianza es 0,001875 exactamente.

Lo comprobamos

Su término principal sería f(0)/(2nh)=1/400; la fórmula exacta resta 1/1600.

Dos secuencias de anchos

Comparar hₙ=n⁻¹ᐟ³ y hₙ=n⁻².

  1. Primera

    h→0 y nh=n²ᐟ³→∞.
  2. Segunda

    h→0, pero nh=n⁻¹→0.
  3. Consecuencia

    La primera cumple el balance básico de consistencia; la segunda deja demasiado poca información local en el marco positivo indicado.

Resultado

Reducir el ancho más deprisa no garantiza una mejor estimación.

Lo comprobamos

La conclusión depende también de las condiciones sobre f y K.

5. El error cuadrático suma sesgo al cuadrado y varianza

MSE=sesgo²+varianza es una identidad cuando hay segundos momentos. En el caso interior de segundo orden, el modelo principal es Cb h⁴+Cv/(nh).

Si Cb,Cv>0, derivar da 4Cb h³−Cv/(nh²)=0 y h_{opt}=\left(\frac{C_v}{4C_b n}\right)^{1/5}.
Una ventana intermedia equilibra sesgo y variabilidad
AMSE(h)=h⁴+1/(100h)00,6Mínimo: h≈0,302Azul: sesgo²; rojo: varianzaLa suma equilibra las dos partes.
Ejemplo de función de error asintótico con constantes elegidas: h a la cuarta más uno sobre cien h, para anchos positivos. Las tres curvas usan los mismos ejes; el trazo de suma es la adición punto a punto del sesgo al cuadrado azul y la varianza roja. Derivar da cuatro h al cubo menos uno sobre cien h al cuadrado, que se anula en h igual cuatrocientos elevado a menos un quinto, aproximadamente cero coma trescientos dos. No se afirma que este ancho sea universal ni que las constantes correspondan a cualquier densidad. El mínimo del modelo asintótico orienta el balance; el error real y la frontera necesitan análisis propio.

Por tanto h tiene orden n⁻¹ᐟ⁵ y el error cuadrático de primer orden n⁻⁴ᐟ⁵. Eso no fija un ancho numérico sin constantes. En el mínimo, la parte de varianza vale cuatro veces el sesgo al cuadrado en este modelo: equilibrar órdenes no exige igualar exactamente sus valores.

Un modelo de error que podemos minimizar

AMSE(h)=h⁴+1/(100h).

  1. Derivar

    4h³−1/(100h²)=0.
  2. Despejar

    4h⁵=1/100, así h=400⁻¹ᐟ⁵≈0,302.
  3. Comprobar

    La segunda derivada es 12h²+2/(100h³)>0 para h>0.
Resultado

Es el mínimo de este modelo concreto de error.

Lo comprobamos

No es un ancho universal para todos los conjuntos de datos.

Cambiar el tamaño de muestra bajo las mismas constantes

Multiplicar n por 32.

  1. Ancho

    32⁻¹ᐟ⁵=1/2: el ancho de orden óptimo se reduce a la mitad.
  2. Error

    32⁻⁴ᐟ⁵=1/16: el MSE principal se divide por dieciséis.
  3. Alcance

    Se mantienen densidad, núcleo, punto y régimen interior.

Resultado

La relación expresa un orden asintótico con constantes fijas.

Lo comprobamos

Si Cb=0 porque la curvatura se anula, hay que revisar el término dominante.

6. En una frontera la ventana deja de ser simétrica respecto del soporte

Una densidad apoyada en un semieje no tiene datos al otro lado de su extremo. Una ventana simétrica puede colocar masa estimada fuera del soporte. La expansión interior no describe automáticamente ese sesgo de frontera.

Reflexión, transformaciones y métodos locales adaptados pueden corregir ciertos problemas bajo hipótesis. Elegir h por validación o reglas de sustitución balancea error estimado, pero no demuestra por sí solo cobertura de intervalos. Una corrección que funciona en una densidad plana cerca del borde no garantiza el mismo orden para cualquier pendiente.

Sesgo que persiste al estrechar la ventana en el borde

f uniforme en (0,1), K uniforme y 0<h<1; evaluar en cero.

  1. Masa local

    P(|X|≤h)=h.
  2. Esperanza

    E f̂_h(0)=h/(2h)=1/2.
  3. Sesgo

    Tomando el valor de referencia f(0)=1 por su límite derecho, el sesgo es −1/2 y no tiende a cero.

Resultado

h→0 y nh→∞ no bastan para aplicar un resultado interior en el borde.

Lo comprobamos

El valor de una densidad en un único punto se fija aquí por continuidad desde el soporte.

Reflejar en ese ejemplo concreto

Para x≥0, añadir a cada copia centrada en Xᵢ otra centrada en −Xᵢ.

  1. Estimador

    Se usa (1/(nh))Σ[K((x−Xᵢ)/h)+K((x+Xᵢ)/h)].

  2. En cero

    Por simetría se duplica la contribución anterior; su esperanza es uno si h<1.

  3. Masa

    La suma reflejada integra uno sobre el semieje positivo.

Resultado

La reflexión elimina este sesgo del ejemplo plano.

Lo comprobamos

Con una densidad de pendiente no nula en el borde se necesita otro análisis del sesgo.

7. Más dimensiones reducen la cantidad de información de cada vecindad

En d dimensiones, el núcleo isotrópico se normaliza con h⁻ᵈ y la varianza típica pasa a 1/(nhᵈ). Bajo suavidad de segundo orden, sesgo no degenerado y condiciones interiores comparables, el balance sugiere h\asymp n^{-1/(d+4)},\qquad MSE\asymp n^{-4/(d+4)}.

El volumen de una vecindad pequeña disminuye mucho al crecer d. Es una forma de la maldición de dimensionalidad. Estructuras adicionales, como aditividad, anisotropía o baja dimensión intrínseca, pueden modificar las tasas, pero deben imponerse y justificarse.

Cuántos datos exige reducir el ancho a la mitad

Mantener las constantes del modelo y usar h de orden n⁻¹ᐟ⁽ᵈ⁺⁴⁾.

  1. Una dimensión

    Hace falta multiplicar n por 2⁵=32.
  2. Seis dimensiones

    Hace falta multiplicarlo por 2¹⁰=1024.
  3. Comparar

    No se transfiere la regla de una dimensión manteniendo el mismo coste de datos.

Resultado

Estas cifras ilustran la tasa del modelo, no una garantía de calidad finita.

Lo comprobamos

Reducir h también cambia el sesgo y la varianza.

Comprobar la normalización de un núcleo producto

K_{d}(u)=K(u₁)···K(u_{d}), con cada integral uno.

  1. Escalar

    Cada coordenada usa xⱼ−Xᵢⱼ dividido por h.

  2. Cambio de variable

    El volumen dx aporta hᵈdu.

  3. Cancelar

    El factor h⁻ᵈ conserva área total uno en dimensión d.

Resultado

Se conserva masa, ahora respecto de volumen d-dimensional.

Lo comprobamos

Usar solo 1/h en varias dimensiones no normaliza correctamente.

8. Una media local estima regresión y necesita vecinos de verdad

Nadaraya–Watson usa \widehat m_h(x)=\frac{\sum_iK((x-X_i)/h)Y_i}{\sum_iK((x-X_i)/h)} cuando el denominador es positivo. La densidad cuenta presencia de datos; la regresión promedia sus respuestas. Los factores comunes 1/(nh) se cancelan en el cociente.

Series, splines y polinomios locales ofrecen otras aproximaciones con controles propios de complejidad. En todas se pregunta qué regularidad permiten los datos y la pérdida que queremos controlar. Si no hay vecinos, devolver cero sin una regla declarada inventa una respuesta: hay que revisar el ancho o el dominio donde se estima.

Una media local y una densidad con unidades distintas

Datos X=0,1/2; respuestas Y=2,8; evaluar x=1/4 con h=1/2 y núcleo uniforme.

  1. Pesos

    Ambos argumentos son ±1/2 y ambos pesos valen 1/2.

  2. Regresión

    [(1/2)·2+(1/2)·8]/[(1/2)+(1/2)]=5.
  3. Densidad

    La misma muestra de X da f̂=1/(2·1/2)·1=1.
Resultado

La regresión vale cinco y la densidad uno: responden a preguntas diferentes.

Lo comprobamos

La primera tiene unidades de Y; la segunda, inversas de X.

Una consulta sin observaciones cercanas

Datos X=0,1; evaluar x=3 con h=1/4 y núcleo uniforme.

  1. Distancias

    Los argumentos son doce y ocho, fuera del soporte del núcleo.

  2. Denominador

    La suma de pesos es cero.

  3. Definición

    La fórmula local no está definida en esa consulta.

Resultado

No se concluye que m(3)=0.

Lo comprobamos

Cambiar el ancho puede incorporar datos, pero también modifica la cantidad de suavizado.

9. El ancho que minimiza error no elimina automáticamente el sesgo de un intervalo

En el caso interior de segundo orden, el sesgo es de orden h² y el error estándar de orden (nh)⁻¹ᐟ². Con h de orden n⁻¹ᐟ⁵, ambos tienen orden n⁻²ᐟ⁵. Por tanto centrar un intervalo normal en f̂ e ignorar el sesgo puede alterar su cobertura incluso asintóticamente.

Para hacer despreciable el sesgo frente al error estándar se puede elegir un ancho menor: h→0, nh→∞ y √(nh)h²→0, junto a las condiciones del TCL por núcleos y regularidad. Otra vía es corregir el sesgo con estimación y análisis adecuados. Un intervalo para un punto no es automáticamente una banda simultánea para toda la curva.

Un ancho de menor sesgo relativo

h=n⁻¹ᐟ⁴ en una dimensión.

  1. Vecinos

    nh=n³ᐟ⁴→∞.
  2. Dos órdenes

    Sesgo O(n⁻¹ᐟ²), error estándar de orden n⁻³ᐟ⁸.

  3. Relación

    Sesgo dividido por error estándar es O(n⁻¹ᐟ⁸), que tiende a cero.

Resultado

Se reduce el sesgo relativo a cambio de mayor variabilidad que con el ancho de MSE óptimo.

Lo comprobamos

Las condiciones sobre f, K, el punto y la selección del ancho siguen siendo necesarias.

Una garantía puntual no cubre toda la función

Se justificó cobertura asintótica 95 % en un x fijado antes de observar los datos.

  1. Alcance

    La afirmación se refiere a ese punto.

  2. Muchas consultas

    Buscar después el punto con mayor discrepancia cambia el problema.

  3. Banda

    Cobertura simultánea exige controlar el proceso completo y un cuantil apropiado.

Resultado

Dibujar todos los intervalos puntuales no prueba una banda de 95 %.

Lo comprobamos

La apariencia suave de una franja no determina su cobertura.

Ahora lo resolvemos de principio a fin.

EJEMPLO RESUELTO 1

Núcleo uniforme

Con n=4,h=1 y observaciones 0,0,2,3, calcula f̂_h(0).

  1. Núcleo

    K(u)=1/2 para |u|≤1 y cero fuera.
  2. Datos

    n=4, h=1 y X=0,0,2,3; consultar x=0.
  3. Argumentos

    Son 0,0,−2,−3.

  4. Contribuciones

    K vale 1/2,1/2,0,0; suman uno.

  5. Normalizar

    f̂_h(0)=1/(4·1)·1=1/4.
  6. Interpretar

    Es una altura de densidad, no la probabilidad del punto cero.

Resultado

La estimación es 1/4.

Lo comprobamos

La altura no es una probabilidad puntual.

EJEMPLO RESUELTO 2

Escala de varianza

Si n se multiplica por 4 y h no cambia, ¿cómo cambia 1/(nh)?

  1. Término

    La escala de varianza es 1/(nh).

  2. Cambio

    El nuevo tamaño es 4n y el ancho h se mantiene.

  3. Sustituir

    La nueva escala es 1/(4nh).

  4. Comparar

    Es (1/4)·[1/(nh)].

  5. Conclusión

    El término se multiplica por 1/4.

  6. Alcance

    El sesgo de suavizado no cambia en este cálculo de ancho fijo; la fórmula solo compara la parte indicada.

Resultado

Se multiplica por 1/4.

Lo comprobamos

El sesgo de suavizado no cambia por ese cálculo.

Los símbolos que hemos usado

f(x)
Densidad desconocida: una altura cuya integral sobre un conjunto da probabilidad.
K(u)
Núcleo; aquí no negativo, de integral uno y con condiciones adicionales según la cota usada.
h>0
Ancho de banda que regula la escala de suavizado.
Sesgo
E[f̂_h(x)]−f(x), referido a un punto y modelo de muestreo.
R(K)
Integral de K², si es finita.
μ₂(K)
Integral de u²K(u), segundo momento del núcleo.
MSE
Error cuadrático medio: esperanza del cuadrado de la diferencia respecto al objetivo.
Dimensión d
Número de coordenadas del argumento de la función estimada.

Ahora te toca a ti.

Tienes cinco ejercicios. Inténtalos; las pistas te ayudan si te atascas.

Practicar este tema →

Para ampliar