EJERCICIO 1 / 5Respuesta comprobable
Tu reto 1.
Con x=3,η=1/2,g=2, calcula x nuevo.
- PISTA 1
Una pista
Resta ηg.
Un desarrollo posible.
- La corrección es ηg=(1/2)·2=1.
Se resta del punto3.
El nuevo punto es 2.
EJERCICIO 2 / 5Respuesta comprobable
Tu reto 2.
Una varianza 20 con minibatch independiente de tamaño 5 se reduce a ¿cuánto?
- PISTA 1
Una pista
Divide por el tamaño.
Un desarrollo posible.
Se usa la varianza del promedio de 5 estimaciones independientes.
- 20/5=4.
La varianza es 4 bajo ese modelo de muestreo.
EJERCICIO 3 / 5Respuesta comprobable
Tu reto 3.
Para F(x)=x²/2, calcula ∇F(4).
- PISTA 1
Una pista
La derivada es x.
Un desarrollo posible.
- Para F=x²/2, la derivada es x.
- Sustituimos x=4.
El gradiente es 4.
EJERCICIO 4 / 5Razonamiento · revisión personal
Tu reto 4.
Explica por qué un gradiente no sesgado puede aumentar la pérdida en un paso.
- PISTA 1
Una pista
La condición es sobre esperanza, no sobre cada realización.
Un desarrollo posible.
No sesgo significa media condicional correcta, pero una muestra puede tener dirección desfavorable.
Además, una longitud excesiva puede aumentar F incluso con el gradiente exacto.
Las garantías necesitan suavidad, pasos y ruido controlado, y normalmente se formulan sobre iteraciones o esperanzas.
EJERCICIO 5 / 5Razonamiento · revisión personal
Tu reto 5.
Analiza descenso de gradiente en x²/2 con paso η.
- PISTA 1
Una pista
Escribe x nuevo como factor de x.
Un desarrollo posible.
- El gradiente de x²/2 es x, así que xₖ₊₁=(1−η) xₖ.
Converger a cero desde cualquier inicio real requiere|1−η|<1.
La condición es 0<η<2; en los extremos hay estancamiento o alternancia salvo casos especiales.