Hay varias formas de estudiar la incertidumbre, pero no todas hacen aleatorio lo mismo. Bayes actualiza una distribución sobre parámetros; el bootstrap vuelve a elegir observaciones de la muestra; una permutación cambia etiquetas bajo una hipótesis. Los construiremos con ejemplos pequeños para ver qué pregunta responde cada uno y cuándo sería incorrecto intercambiar sus conclusiones.
Si necesitas repasar:
1. En Bayes se declara una previa y se actualiza con los datos
Sea θ un parámetro con distribución previa π y sean x los datos. La verosimilitud L(θ; x) evalúa cuánto pesan esos datos para cada θ. La posterior es proporcional a L(θ; x)π(θ): después hay que dividir por la evidencia, sumando o integrando sobre todos los parámetros del modelo.
La evidencia debe ser finita y positiva.
El denominador no depende de θ y hace que la posterior integre uno. Normalizar una verosimilitud sin declarar una previa y una medida no es una aplicación completa de Bayes. Las previas impropias requieren comprobaciones adicionales y no se asumen válidas aquí.
Actualizar dos hipótesis sin saltarse la normalización
Dos monedas posibles tienen p=0,2 y p=0,8, previas 1/2 cada una. Observamos una cara.
Pesos sin normalizar
Para p=0,2: 0,2·1/2=0,1.Para p=0,8: 0,8·1/2=0,4.Evidencia
P(cara)=0,1+0,4=0,5.Dividir
Posteriores 0,1/0,5=0,2 y 0,4/0,5=0,8.
Tras una cara, las dos probabilidades posteriores son 0,2 y 0,8.
Suman uno. La probabilidad predictiva de otra cara es 0,2·0,2+0,8·0,8=0,68, bajo independencia de lanzamientos dado el tipo.
Normalizar una densidad sobre p
p∈[0,1], previa uniforme y una observación Bernoulli que ha sido éxito.
Producto
La verosimilitud es p y la densidad previa es 1; el producto es p.
Integrar
La evidencia es ∫₀¹p dp=1/2.Posterior
La densidad es 2p en [0,1], cuya integral vale uno.
La posterior es Beta(2,1).
La previa uniforme se declaró en la coordenada p; no sería automáticamente uniforme al cambiar de parámetro.
2. Resumen posterior e intervalo creíble necesitan una interpretación propia
Con pérdida cuadrática y segundo momento finito, elegir a minimizando E[(θ−a)²|x] da a=E(θ|x): la descomposición es Var(θ|x)+(E(θ|x)−a)². Con pérdida absoluta, una mediana posterior minimiza la pérdida esperada cuando esta está definida. Un modo maximiza una densidad especificada; puede no ser único y cambia de manera no equivalente bajo transformaciones de coordenada.
Un conjunto creíble C(x) de nivel 0,95 satisface P(θ∈C(x)|x)=0,95 bajo la previa, el modelo y los datos. Esa probabilidad condicionada no garantiza por sí sola cobertura frecuentista del 95 % para cada θ fijo. Bajo el modelo conjunto previo, una regla de credibilidad exacta sí tiene cobertura promedio previa 0,95 por la esperanza total; una media de coberturas no fija cada cobertura individual.
Media, mediana y modo pueden diferir
La posterior asigna probabilidades 0,4;0,35;0,25 a θ=0,1,10.
Media
Eθ=0·0,4+1·0,35+10·0,25=2,85.Mediana
La acumulada pasa de 0,4 a 0,75 en θ=1: una mediana es 1.Modo
La masa mayor es 0,4, en θ=0.
Con pérdidas distintas aparecen decisiones 2,85, 1 y 0.
En este ejemplo discreto el modo compara masas; no se confunde con maximizar una densidad continua transformada.
Credibilidad no es cobertura uniforme automática
Antes de observar datos, la previa sobre p es uniforme en [0,1]; se usa C=[0,025;0,975].
Probabilidad previa
La longitud del intervalo es 0,95 y su probabilidad bajo esa previa es 0,95.
Parámetro fijo
Si el verdadero p=0,01, la regla devuelve siempre un intervalo que no lo contiene.
Cobertura
Para ese p fijo la cobertura es cero; al promediar p según la previa vuelve a ser 0,95.
El promedio previo no garantiza cobertura 0,95 para cada p.
Se usa deliberadamente un ejemplo sin datos para distinguir las dos probabilidades sin cálculos innecesarios.
3. La familia Beta permite ver la actualización de una proporción
Una previa Beta(a, b), con a, b>0, tiene densidad proporcional a pᵃ⁻¹(1−p)ᵇ⁻¹ para 0<p<1. En observaciones Bernoulli independientes dado p, s éxitos y f fracasos producen verosimilitud proporcional a pˢ(1−p)ᶠ. Al multiplicar, los exponentes se suman: la posterior es Beta(a+s, b+f).
El coeficiente binomial, si resumimos los datos por el número de éxitos, no depende de p y se cancela al normalizar la posterior. La conjugación es esa conservación de la familia, no una razón para ignorar dependencia o sesgo en la recogida de datos. Dibujamos un ejemplo con previa Beta(3,1) y dos éxitos y tres fracasos.
Seguir los exponentes hasta la densidad normalizada
Previa Beta(3,1); s=2 y f=3.
Previa
Es 3p²; su integral en [0,1] es uno.
Producto
p²·p²(1−p)³=p⁴(1−p)³ salvo constante.Familia
Exponentes 4 y 3 corresponden a Beta(5,4).
Normalización
∫₀¹p⁴(1−p)³dp=1/280; la densidad posterior es 280p⁴(1−p)³.
La posterior es Beta(5,4).
El dibujo compara dos densidades que integran uno, no probabilidades puntuales dadas por su altura.
Los parámetros Beta no son los exponentes directamente
Previa Beta(1/2,1/2), una observación que es fracaso.
Exponentes previos
Son −1/2 en p y −1/2 en 1−p; la densidad sigue siendo integrable.
Añadir un fracaso
El exponente de 1−p pasa a 1/2.
Leer parámetros
La posterior es Beta(1/2,3/2), pues a−1=−1/2 y b−1=1/2.
Se suma el fracaso al segundo parámetro, no se cambia su signo por intuición.
a y b deben ser positivos; que un exponente sea negativo no vuelve impropia por sí sola a una Beta válida.
4. La posterior combina información y permite predecir datos nuevos
Los pesos positivos suman uno y muestran cómo se combinan centro previo y proporción observada dentro de este modelo.
La probabilidad predictiva de un éxito nuevo es E(p|datos). Para dos éxitos futuros, independientes dado p, se necesita E(p²|datos), no [E(p|datos)]². Integrar un mismo p desconocido crea dependencia predictiva entre resultados futuros, aunque sean independientes condicionados a p.
Reconstruir la media como promedio con pesos
La previa Beta(3,1) y los datos 2 éxitos de 5 dieron Beta(5,4).
Centros
Previa: 3/4. Proporción muestral: 2/5.
Pesos
Información previa 4/9 y datos 5/9 en esta expresión.
Combinar
(4/9)(3/4)+(5/9)(2/5)=3/9+2/9=5/9.
La media posterior 5/9 queda entre 2/5 y 3/4.
La moda interior es (5−1)/(5+4−2)=4/7, que no coincide con la media.
No sustituir p por su media para varios futuros
Con posterior Beta(5,4), calculamos uno y dos éxitos futuros.
Uno
P(éxito nuevo|datos)=5/9.Dos
P(dos éxitos|datos)=E(p²|datos)=5·6/(9·10)=1/3.Comparar
(5/9)²=25/81 es menor que 1/3=27/81.Dependencia
La covarianza predictiva entre indicadores de dos éxitos es Var(p|datos)=2/81.
La incertidumbre compartida sobre p importa al predecir conjuntamente.
La diferencia 27/81−25/81=2/81 comprueba la varianza posterior y la dependencia marginal.
5. Bootstrap vuelve a muestrear de la distribución empírica
Con observaciones iid X₁,…, Xₙ, la distribución empírica Fₙ pone masa 1/n en cada posición observada; si hay valores repetidos, sus masas se suman. Una réplica bootstrap no paramétrica iid elige n posiciones independientemente con reemplazo. Un dato puede repetirse y otro no aparecer. El tamaño de la réplica sigue siendo n.
Calculamos en cada réplica el mismo estadístico T*. Su distribución condicionada a los datos intenta aproximar, bajo condiciones apropiadas, la variación de muestreo de T. Los parámetros no recibieron una previa ni se volvieron aleatorios por hacer bootstrap. La aproximación depende de regularidad del estadístico y de que el remuestreo represente la estructura de los datos.
Enumerar todas las réplicas de una muestra pequeña
Muestra [1;4] con n=2; el estadístico es la media.
Cada extracción
Elige 1 o 4 con probabilidad 1/2.
Dos posiciones
Las secuencias [1;1],[1;4],[4;1],[4;4] tienen cada una probabilidad 1/4.
Medias
Sus valores son 1;2,5;2,5;4.
La media vale 1 con probabilidad 1/4, 2,5 con probabilidad 1/2 y 4 con probabilidad 1/4.
Las dos secuencias centrales son distintas aunque produzcan el mismo estadístico; sus probabilidades se suman.
Una réplica omite y repite sin añadir datos nuevos
Muestra [2;5;8]. Consideramos la réplica ordenada [5;5;2].
Tamaño
Contiene tres posiciones, igual que la muestra original.
Reemplazo
Puede repetir 5 y omitir 8 porque se extrae con reemplazo.
Probabilidad
Cada posición concreta vale 1/3; la secuencia pesa (1/3)³=1/27.
Es una réplica bootstrap iid válida.
No es una permutación de la muestra: una permutación conservaría también el 8.
6. Más réplicas afinan la simulación, no crean más observaciones
Con B réplicas independientes se obtiene T*₁,…, T*ᴮ y su media T̄*. El error estándar bootstrap se estima mediante la desviación de esos B estadísticos: √[Σ(T*ᵦ−T̄*)²/(B−1)] cuando B≥2. El sesgo bootstrap estimado es T̄*−T. Ambos son cálculos condicionales a la muestra.
Un intervalo percentil usa cuantiles de T*. Otros métodos invierten diferencias centradas, estandarizan o corrigen sesgo. No tienen todos la misma justificación ni cobertura exacta: su validez puede ser aproximada bajo hipótesis. Aumentar B reduce el error de Monte Carlo al estimar la distribución bootstrap, pero no corrige una muestra sesgada, un estadístico no regular o una unidad de remuestreo equivocada.
Calcular la distribución exacta evita error de simulación
En [1;4], las medias bootstrap son 1;2,5;2,5;4, con pesos 1/4 cada secuencia.
Centro exacto
E*(X̄*)=(1+2,5+2,5+4)/4=2,5.Varianza exacta
E*[(X̄*−2,5)²]=(2,25+0+0+2,25)/4=9/8.Error estándar
Es √(9/8)≈1,0607; el sesgo bootstrap de la media es cero.
Enumerar da el valor condicional exacto para esa distribución empírica.
No demuestra que esa distribución sea la verdadera ley de muestreo de la población desconocida.
Una tanda de cuatro simulaciones no es una enumeración ponderada
Supongamos que B=4 simulaciones producen casualmente los cuatro estadísticos 1;2,5;2,5;4.
Media simulada
T̄*=2,5.Varianza estimada
La suma de cuadrados es 4,5; se divide por B−1=3, dando 1,5.Distinción
La varianza condicional exacta anterior era 4,5/4=1,125; la fórmula con B−1 estima una varianza a partir de réplicas aleatorias.
No confundimos el divisor de una distribución enumerada con el de una estimación por simulación.
Con más réplicas independientes la estimación de Monte Carlo se estabiliza; los dos datos originales siguen siendo dos.
7. El remuestreo tiene que respetar la estructura y el estadístico
La receta iid no vale automáticamente para series temporales, familias, aulas o medidas repetidas. Remuestrear puntos sueltos puede destruir dependencia. Según el diseño, podrían remuestrearse bloques, grupos o residuos bajo condiciones concretas. En regresión, remuestrear pares y remuestrear residuos no tienen las mismas hipótesis ni el mismo objetivo.
Incluso con datos iid, algunos estadísticos extremos son no regulares. El máximo de uniformes en [0, θ] ilustra el problema: una réplica empírica nunca supera el máximo observado y tiene masa positiva exactamente en él. Esa estructura no imita correctamente el límite continuo de la distancia entre el máximo original y θ.
Romper una dependencia puede borrar toda la incertidumbre
Un conjunto de n medidas satisface X₁=⋯=Xₙ=Z, donde Z cambia entre conjuntos y Var(Z)>0.
Media real
X̄=Z; al repetir conjuntos su varianza es Var(Z).Dentro de uno
Todos los datos observados son iguales a un mismo z.
Bootstrap de puntos
Cualquier réplica vuelve a tener media z y varianza bootstrap cero.
El remuestreo iid de puntos pierde la incertidumbre común del grupo.
Hace falta que el diseño permita aprender esa variación, por ejemplo mediante unidades de grupo independientes; repetir el único grupo no crea esa información.
Una masa artificial en el máximo no desaparece
n datos iid uniformes en [0, θ], θ>0, máximo M; casi seguramente los valores son distintos.
Probabilidad empírica
La réplica contiene la posición de M al menos una vez con probabilidad 1−(1−1/n)ⁿ.
Límite
Esa probabilidad tiende a 1−e⁻¹≈0,632; en ese caso M*=M.Contrastar leyes
El bootstrap de n(M−M*)/M mantiene esa masa en cero. La ley verdadera de n(θ−M)/θ converge a Exp(1), que no tiene masa en cero.
Conclusión
La aproximación bootstrap ordinaria de ese estadístico extremo no reproduce su ley límite.
Más réplicas estimarían con más precisión una distribución bootstrap inadecuada para este objetivo.
La comparación usa la escala n del máximo; no se aplica la escala √n de una media por costumbre.
8. Permutar cambia etiquetas y conserva todos los valores
En una prueba de dos grupos se pueden reunir los valores y reasignar etiquetas conservando los tamaños. Para que las asignaciones sean equiprobables bajo H₀ se necesita intercambiabilidad apropiada o un diseño de aleatorización que la justifique. Igualdad de medias por sí sola no hace intercambiables distribuciones con formas o varianzas diferentes.
En un experimento aleatorizado, el conjunto de asignaciones permitidas lo fija el diseño; la interpretación exacta depende de la hipótesis que autoriza mantener fijos los resultados bajo esas reasignaciones, como una nula causal tajante. En datos emparejados o bloqueados deben respetarse las restricciones. No se mezclan todas las etiquetas ignorando cómo se recogieron los datos.
Enumerar seis asignaciones posibles
Valores 1,2,4,5; grupo A observado {1,2}, B observado {4,5}; dos valores por grupo. d=media(B)−media(A).
Observado
d=(4+5)/2−(1+2)/2=3.Elegir A
Hay seis subconjuntos de tamaño dos: {1,2},{1,4},{1,5},{2,4},{2,5},{4,5}.
Complementos
Los grupos B restantes dan diferencias 3,1,0,0,−1,−3.
Si las seis asignaciones son equiprobables bajo la nula, esta es la distribución de referencia.
Los valores nunca desaparecen ni se repiten; solo cambia a qué grupo pertenece cada uno.
Misma media no basta para permutar sin más
Grupo A toma −1 y 1 equiprobables; grupo B toma −3 y 3 equiprobables.
Centros
Ambos tienen media cero.
Leyes
Sus varianzas son 1 y 9, y sus soportes son distintos.
Etiquetas
Observar el valor 3 identifica que procede de B en estos modelos; las etiquetas no son intercambiables.
Una nula de igualdad de medias no justifica esta permutación exacta no estandarizada.
Puede haber procedimientos asintóticos con otros estadísticos y condiciones, pero esa sería otra justificación que debe demostrarse.
9. El p-valor de permutación incluye la asignación observada
Si se enumeran todas las asignaciones equiprobables válidas, el p-valor es la proporción con estadístico al menos tan extremo como el observado, contando este último. La cola o valor absoluto se define antes. Con empates, contar “al menos” da validez conservadora; una regla de empates aleatoria se tendría que especificar aparte.
Si se simula un subconjunto, no se presenta como enumeración exacta. En el esquema válido de referencia Monte Carlo por rangos intercambiables, con B reasignaciones aleatorias adicionales y b de ellas al menos tan extremas, se usa (b+1)/(B+1). El +1 cuenta el observado; la justificación necesita que ese esquema de aleatorización haga válidos los rangos.
No se aplica a una colección arbitraria o seleccionada de permutaciones.
Una o dos colas cambian el recuento
En las seis asignaciones anteriores d observado es 3 y las diferencias son 3,1,0,0,−1,−3.
Bilateral
Con |d| como extremidad, cuentan 3 y −3: p=2/6=1/3.Superior
Con alternativa superior predefinida solo cuenta d≥3: p=1/6.
Resolución
No hay valores tan pequeños como 0,05 con estas seis asignaciones y esas reglas.
El p bilateral exacto es 1/3 bajo la intercambiabilidad declarada.
No se elimina la asignación observada del denominador ni se escoge ahora la cola más conveniente.
Cero extremos simulados no significa probabilidad cero
En un esquema Monte Carlo por rangos válido, B=99 reasignaciones adicionales y b=0 resultados al menos tan extremos.
Contar el observado
Numerador b+1=1.Total de rangos
Denominador B+1=100.Resultado
p Monte Carlo=1/100=0,01.
La resolución de esa prueba es 0,01, no cero.
El resultado depende del esquema de simulación válido; aumentar B mejora su resolución, no convierte una mala nula en una buena.
10. Antes de simular, decide qué permanece fijo y qué cambia
En Bayes, los datos observados están fijados y la posterior distribuye incertidumbre sobre θ bajo un modelo y previa. En bootstrap, los datos fijan Fₙ y se vuelven a elegir observaciones para aproximar la variación de un estadístico. En permutación, los valores reunidos quedan fijos y se reasignan etiquetas bajo la nula o diseño autorizado.
La calidad numérica y la validez estadística son controles distintos. Una cadena o simulación puede reproducir perfectamente un modelo mal elegido. Hay que declarar objetivo, unidad de análisis, supuestos, criterio de extremidad o resumen y límite de la conclusión; después se revisa la estabilidad de los cálculos.
Ninguna técnica elimina la necesidad de justificar cómo se obtuvieron los datos.
Elegir la herramienta por la pregunta
Datos Bernoulli de una proporción p; queremos una probabilidad posterior de que p supere 1/2.
Objeto
La pregunta habla de un parámetro bajo una distribución posterior.
Construir
Se declara previa y verosimilitud; se integra la posterior sobre p>1/2.
Ejemplo
Con Beta(5,4), P(p>1/2|datos)=163/256≈0,6367.
El cálculo es bayesiano; una frecuencia de medias bootstrap no se interpreta automáticamente como esa probabilidad.
El valor se obtiene integrando 280p⁴(1−p)³ desde 1/2 hasta 1, no contando parámetros de una distribución frecuentista inexistente.
Dos simulaciones sobre [1;4] hacen cosas distintas
Comparamos un bootstrap de tamaño dos con una reasignación entre dos grupos de tamaño uno.
Bootstrap
Puede obtener [1;1] y media 1: eligió dos veces la primera posición.
Permutación
Solo puede asignar 1 a A y 4 a B, o 4 a A y 1 a B.
Invariante
En la permutación la media reunida sigue siendo 2,5; en una réplica bootstrap puede cambiar.
Conservar valores o cambiar multiplicidades distingue los experimentos.
Que ambos utilicen números aleatorios no permite intercambiar sus distribuciones de referencia.
Ahora lo resolvemos de principio a fin.
EJEMPLO RESUELTO 1
Actualizar una proporción
Prior Beta(2,2), datos con 3 éxitos y 1 fracaso.
Modelo
Se usa la previa Beta(2,2) y observaciones Bernoulli independientes dado p.
Datos
Hay tres éxitos y un fracaso: L(p) es proporcional a p³(1−p).
Multiplicar
La previa aporta p¹(1−p)¹; el producto queda p⁴(1−p)².
Leer la Beta
Los parámetros son un uno mayor que cada exponente: Beta(5,3).
Media
E(p|datos)=5/(5+3)=5/8.Comprobar
5/8 está entre la media previa 1/2 y la proporción observada 3/4; la moda, cuando se pide, sería 4/6 y es otro resumen.
Posterior Beta(5,3), media 5/8.
La media queda entre 1/2 y3/4, como exige la combinación con pesos positivos. No se identifica la media con la moda posterior.
EJEMPLO RESUELTO 2
Una muestra bootstrap
Muestra original [2,5,8]. ¿Es [5,5,2] una réplica bootstrap válida?
Definir la extracción
Una réplica bootstrap iid toma tres posiciones de [2,5,8] con reemplazo.
Primera posición
Puede salir 5 con probabilidad 1/3.
Segunda
Puede volver a salir 5, también con probabilidad 1/3.
Tercera
Puede salir 2 con probabilidad 1/3.
Multiplicar
Las extracciones condicionales son independientes: la secuencia [5,5,2] tiene probabilidad 1/27.
Concluir
Sí, es válida: conserva el tamaño tres, permite repeticiones y puede omitir el 8.
Sí.
Con tres posiciones equiprobables, esa secuencia ordenada concreta tiene probabilidad (1/3)³=1/27 bajo el remuestreo.
Los símbolos que hemos usado
- π(θ)
- Distribución previa del parámetro bajo un modelo bayesiano.
- π(θ|x)
- Posterior del parámetro una vez observados los datos.
- L(θ;x)
- Verosimilitud de los datos fijos como función del parámetro.
- Beta(a,b)
- Ley sobre 0<p<1 con densidad proporcional a p^(a−1)(1−p)^(b−1), para a,b>0.
- T*
- Estadístico recalculado sobre una muestra bootstrap.
- B
- Número de réplicas simuladas del procedimiento de remuestreo.
- Intercambiabilidad
- Invariancia de la ley conjunta bajo las permutaciones que se propone usar.
Ahora te toca a ti.
Tienes cinco ejercicios. Inténtalos; las pistas te ayudan si te atascas.
Practicar este tema →