La PizarraMatemática.

Máster y doctorado

Recuperación dispersa y compresión

Una cámara o un sensor produce mediciones, no necesariamente cada coordenada de la señal. Con menos mediciones que incógnitas suele haber muchas respuestas. Veremos qué cambia si sabemos que solo unas pocas coordenadas son distintas de cero y por qué resolver una optimización no garantiza, por sí solo, recuperar la señal verdadera.

1. Las mediciones mezclan coordenadas y pueden perder información

En y=Ax, x tiene N coordenadas y y contiene m mediciones.
Si m<N, hay un núcleo no trivial: algún h≠0 satisface Ah=0.

Entonces x y x+h producen la misma y. Sin una restricción adicional no se recupera cualquier vector de forma única.

Cada columna es la medición de una coordenada activa
Tres columnas, dos medicionesc₁=(1,0)c₂=(0,1)c₃=(1,1)c₁+c₂=c₃A(1,1,0)=A(0,0,1)Restricción: ¿cuántos no nulos?
Diagrama en el espacio de dos mediciones. Las columnas de A son c uno igual uno cero, c dos igual cero uno y c tres igual uno uno. Se dibujan como flechas desde el origen, con escalas iguales en ambos ejes. La tercera es suma de las dos primeras. Así las señales uno uno cero y cero cero uno producen la misma medición uno uno, aunque tengan soportes distintos. Toda pareja de columnas es independiente, por lo que no hay dos señales uno-dispersas distintas con la misma medición. La ambigüedad del dibujo involucra una señal de dos coordenadas no nulas.

Llamamos s-dispersa a una señal con como máximo s coordenadas no nulas. La restricción se refiere a una representación concreta: una señal puede ser dispersa en una base y no en otra. Si x=Bc y c es disperso, la matriz que mide sus coeficientes es AB.

Tres coordenadas, dos medidas

A tiene filas (1,0,1) y (0,1,1).

  1. Leer

    y₁=x₁+x₃; y₂=x₂+x₃.
  2. Relación

    Las columnas son (1,0), (0,1), (1,1). La tercera suma las dos primeras.

  3. Ambigüedad

    x=(1,1,0) y z=(0,0,1) producen y=(1,1).
Resultado

Las mediciones no distinguen estas señales arbitrarias.

Lo comprobamos

Una tiene dos no nulos y la otra uno: la clase admisible importa.

Una sola medición repetida

A=(1,1).

  1. Medir

    (1,0) produce uno.

  2. Otra señal

    (0,1) también produce uno.

  3. Restricción

    Ambas son uno-dispersas: esa matriz falla incluso en esta clase.

Resultado

Pedir dispersión no arregla cualquier diseño de medición.

Lo comprobamos

El número de medidas solo no describe la geometría de A.

2. Contar coordenadas no nulas y sumar amplitudes son objetivos distintos

La notación \|x\|_0 cuenta coordenadas no nulas. No es una norma: multiplicar un vector por dos no duplica ese conteo. La norma \|x\|_1=\sum_i|x_i| sí suma amplitudes absolutas y es convexa.

Una señal aproximadamente dispersa tiene una cola pequeña. \sigma_s(x)_1=\min_{\|z\|_0\le s}\|x-z\|_1 es el error de la mejor aproximación s-dispersa en ℓ¹: se conservan s coordenadas de mayor módulo y se suma el módulo de las restantes.

Mismo soporte, amplitudes distintas

x=(0,2,0,−3) y 2x=(0,4,0,−6).

  1. Conteo

    Ambos tienen dos coordenadas no nulas.

  2. Amplitud

    Sus normas ℓ¹ son cinco y diez.

  3. Conclusión

    El conteo no es homogéneo como exige una norma.

Resultado

ℓ⁰ y ℓ¹ no se intercambian solo por parecerse sus símbolos.

Lo comprobamos

Los signos negativos también cuentan como coordenadas no nulas.

Medir la cola

x=(4,1,1/10,−1/20), s=2.

  1. Ordenar módulos

    Cuatro y uno son los dos mayores.

  2. Aproximar

    Conservamos (4,1,0,0).

  3. Error

    σ₂(x)₁=1/10+1/20=3/20.
Resultado

x no es exactamente dos-dispersa, pero su cola es pequeña.

Lo comprobamos

No redondeamos coordenadas a cero sin declarar qué error aceptamos.

3. El núcleo decide si las señales dispersas se pueden distinguir

Si Ax=Az, h=x−z pertenece a ker A.

Dos señales s-dispersas difieren en como máximo 2s posiciones. Por eso no debe existir un h≠0 del núcleo con a lo sumo 2s no nulos. Esta condición garantiza unicidad para todas las señales de esa clase.

También es necesaria: se divide el soporte de tal h en S y T con a lo sumo s posiciones cada una. Las señales h_{S} y −h_{T} son distintas, s-dispersas y tienen la misma medición. Se escribe spark(A)>2s, donde spark es el soporte mínimo de un vector no nulo del núcleo.

Una matriz que distingue todas las señales uno-dispersas

Para la A de dos filas anterior, ker A={t(−1,−1,1)}.

  1. Resolver

    h₁+h₃=0 y h₂+h₃=0.
  2. Contar

    Si t≠0, las tres coordenadas son no nulas: spark=3.

  3. Comparar

    3>2·1: todas las señales uno-dispersas se distinguen.

Resultado

No contradice la ambigüedad entre (1,1,0) y (0,0,1).

Lo comprobamos

La primera señal de esa pareja no es uno-dispersa.

Construir dos señales indistinguibles

A=(1,1) y h=(1,−1) está en el núcleo.

  1. Dividir

    S={1}, T={2}.
  2. Señales

    h_{S}=(1,0); −h_{T}=(0,1).
  3. Medir

    Ambas dan uno. El soporte de h tiene tamaño dos.

Resultado

Aquí spark=2 y falla la condición estricta para s=1.

Lo comprobamos

La igualdad spark=2s no basta.

4. Minimizar ℓ¹ facilita el cálculo, pero cambia el problema

La búsqueda más dispersa minimiza ℓ⁰ sujeto a Az=y.

Basis pursuit sustituye el objetivo por ℓ¹. En el caso real se formula como programa lineal: minimizar la suma de t_{i} con −t_{i}≤z_{i}≤t_{i} y Az=y. Es un problema convexo.

La norma uno puede preferir una señal diferente
Medida: z₁+2z₂=1(1,0)(0,1/2)Verdadera: norma 1Mínimo ℓ¹: norma 1/2Resolver bien ≠ recuperar siempre
Plano de dos coordenadas de señal. La recta z uno más dos z dos igual uno contiene todas las señales que dan la medición uno con A igual uno dos. La señal verdadera uno cero se marca en azul. El rombo de norma uno igual un medio toca la recta en cero un medio, marcado en rojo. Ese punto tiene menor norma uno que la señal verdadera y es el minimizador único. Ambas señales tienen una sola coordenada no nula, de modo que la restricción de dispersión tampoco identifica la verdad con esta matriz. La geometría explica el objetivo elegido; no justifica recuperación para cualquier matriz.

Convexo significa que optimizamos eficazmente el objetivo elegido bajo condiciones habituales del algoritmo. No demuestra que ese objetivo seleccione la señal verdadera. Puede haber empates o preferir una señal diferente. Hay que estudiar A, no solo el método de cálculo.

Un empate

A=(1,1), y=1 y z=(t,1−t).

  1. Entre cero y uno

    Ambas coordenadas son no negativas.

  2. Norma

    |t|+|1−t|=1 para todo 0≤t≤1.
  3. Conclusión

    (1,0), (0,1) y todos esos puntos minimizan ℓ¹.

Resultado

No hay un único minimizador que revele cuál se envió.

Lo comprobamos

Muchos de los minimizadores ni siquiera son uno-dispersos.

Una preferencia equivocada

A=(1,2), y=1 y señal verdadera x=(1,0).

  1. Verdadera

    Tiene una coordenada no nula y norma ℓ¹ igual a uno.

  2. Alternativa

    z=(0,1/2) también mide uno, es uno-dispersa y tiene norma 1/2.

  3. Elegir

    ℓ¹ prefiere la alternativa: recuperar exactamente el mínimo no recupera x.

Resultado

La escala y la geometría de las columnas importan.

Lo comprobamos

Normalizar columnas cambia los coeficientes y debe reflejarse en el modelo.

5. La propiedad del núcleo caracteriza la recuperación uniforme por ℓ¹

NSP de orden s exige, para todo h≠0 en ker A y todo S con |S|≤s, \|h_S\|_1<\|h_{S^c}\|_1. La parte invisible de la medición no puede concentrar la mitad o más de su amplitud en un soporte admisible.

Si x está soportada en S y z=x+h es otra señal factible, \|z\|_1\ge\|x\|_1-\|h_S\|_1+\|h_{S^c}\|_1>\|x\|_1.

Así x es el mínimo único. Si NSP falla, x=−h_{S} y z=h_{S}ᶜ miden igual y z no cuesta más: tampoco hay recuperación uniforme única.

Comprobar NSP de orden uno

ker A={t(−1,−1,1)} en la matriz de dos mediciones.

  1. Una posición

    Para cualquier t≠0, su módulo aporta |t|.
  2. Las otras dos

    Aportan 2|t|.

  3. Estricto

    |t|<2|t|; también se cumple para S vacío.

    NSP de orden uno queda probada.

Resultado

Toda señal uno-dispersa se recupera por ℓ¹ con esta A.

Lo comprobamos

No basta probarlo para un vector aislado si el núcleo tiene más direcciones.

Ver un mínimo concreto

x=(1,0,0). Toda señal con su medida es z=(1−t,−t,t).

  1. Objetivo

    ‖z‖₁=|1−t|+2|t|.
  2. Cota

    |1−t|≥1−|t|, luego ‖z‖₁≥1+|t|.
  3. Único

    Si t≠0 el coste supera uno; t=0 recupera x.
Resultado

La desigualdad muestra unicidad sin dibujar infinitas candidatas.

Lo comprobamos

El signo del parámetro no afecta al argumento.

6. RIP conserva longitudes de señales dispersas y da garantías suficientes

RIP de orden k exige (1-\delta_k)\|z\|_2^2\le\|Az\|_2^2\le(1+\delta_k)\|z\|_2^2 para todo z k-disperso. Una condición clásica suficiente para recuperación estable por ℓ¹ es δ₂ₛ<√2−1. No es necesaria ni la mejor constante de todas las variantes.

La coherencia compara productos de columnas normalizadas: columnas idénticas no distinguen qué coordenada actuó. Ciertas familias aleatorias dan garantías con alta probabilidad y tamaños de orden s·log(N/s), con condiciones y constantes propias. No toda matriz de esas dimensiones tiene la garantía.

Columnas duplicadas

Las dos columnas de A=(1,1) coinciden.

  1. Diferencia

    z=(1,−1) tiene dos no nulos y Az=0.
  2. RIP inferior

    Con δ₂<1, exigiría 0≥(1−δ₂)·2>0.
  3. Imposible

    No puede cumplir una RIP de orden dos con constante menor que uno.

Resultado

La pérdida de una dirección dispersa impide una cota inferior positiva.

Lo comprobamos

Un buen ajuste de mediciones no distingue esa dirección.

Una garantía suficiente no es necesaria

La matriz de dos filas recupera todas las señales uno-dispersas por NSP.

  1. Elegir

    z=(1,0,1) tiene norma al cuadrado dos.
  2. Medir

    Az=(2,1), con norma al cuadrado cinco.
  3. RIP

    La cota superior exigiría 5≤2(1+δ₂), luego δ₂≥3/2.

    Falla la condición clásica, aunque NSP sí vale.

Resultado

No cumplir esa cota RIP no demuestra que ℓ¹ falle.

Lo comprobamos

El cálculo usa la matriz tal como está, sin normalizar columnas.

7. Con ruido hay dos fuentes distintas de error

Si y=Ax+e y ‖e‖₂≤ε, sustituimos la igualdad por una tolerancia: minimizar ‖z‖₁ sujeto a ‖Az−y‖₂≤ε. Bajo la condición RIP suficiente indicada, \|\widehat x-x\|_2\le C_0\sigma_s(x)_1/\sqrt{s}+C_1\varepsilon. Las constantes dependen del operador y de su garantía.

La cola mide falta de dispersión exacta; ε mide ruido de medición. La tolerancia debe contener el error real y usar las mismas unidades. Una respuesta con residual pequeño no asegura poco error de señal si la matriz pierde información.

Leer los dos términos

s=4, cola σ₄(x)₁=0,2 y ruido ε=0,01.

  1. Aproximación

    σ₄/√4=0,1.
  2. Cota

    El error queda acotado por 0,1C₀+0,01C₁ si se cumplen las hipótesis.

  3. No inventar

    Sin fijar A y sus constantes no damos un número certificado.

Resultado

La fórmula separa dos causas, no identifica el error exacto.

Lo comprobamos

Si la señal es exactamente dispersa, solo desaparece el primer término.

Una tolerancia demasiado pequeña

x=(1,0,0), la A de dos filas y ruido e=(0; 0,1).

  1. Dimensiones

    El ruido tiene dos coordenadas: cero y una décima.

  2. Medición

    y=(1; 0,1), por tanto ‖Ax−y‖₂=0,1.
  3. Elegir ε=0,05

    La señal verdadera ni siquiera es factible.

Resultado

La garantía no se aplica con una tolerancia que excluye la verdad.

Lo comprobamos

El punto y coma evita confundir coma decimal con separador de coordenadas.

8. El umbral suave resuelve una penalización concreta

LASSO en esta forma minimiza \tfrac12\|Az-y\|_2^2+\lambda\|z\|_1, con λ>0. Un paso proximal toma v=z−αAᵀ(Az−y) y aplica S_{\alpha\lambda}(v_i)=\operatorname{sign}(v_i)\max(|v_i|-\alpha\lambda,0) a cada coordenada.

Un tamaño 0<α≤1/‖A‖₂² es una elección estándar para el descenso proximal cuando A≠0. El algoritmo reduce amplitudes y puede anular pequeñas coordenadas. Su convergencia optimiza la penalización; no demuestra NSP ni convierte el sesgo del umbral en mediciones exactas.

Primeros pasos escalares

A=1, y=3, λ=1, α=1/2 y z₀=0.

  1. Paso uno

    v=0−(1/2)(0−3)=1,5.
    Umbral 0,5: z₁=1.
  2. Paso dos

    v=1−(1/2)(1−3)=2.
    Umbral 0,5: z₂=1,5.
  3. Límite

    El mínimo es z=2: el umbral introduce sesgo respecto a y=3.
Resultado

Este caso de una coordenada enseña el algoritmo; no es un ejemplo de compresión.

Lo comprobamos

No confundimos solución penalizada con resolver Az=y.

Aplicar el umbral a signos distintos

Umbral τ=1 sobre (3,−2,1,−1/2).

  1. Positivo grande

    Tres pasa a dos.

  2. Negativo grande

    Menos dos pasa a menos uno: se reduce el módulo.

  3. Pequeños

    Uno y menos un medio pasan a cero.

Resultado

Resultado (2,−1,0,0).

Lo comprobamos

El umbral suave resta al módulo, no convierte todo valor grande en uno.

Ahora lo resolvemos de principio a fin.

EJEMPLO RESUELTO 1

Contar dispersión

Para x=(0,3,0,−2,0), calcula ||x||₀ y ||x||₁.

  1. Vector

    x=(0,3,0,−2,0).
  2. Soporte

    Solo las posiciones segunda y cuarta son no nulas.

  3. Conteo

    ‖x‖₀=2.
  4. Módulos

    0,3,0,2,0.

  5. Sumar

    ‖x‖₁=3+2=5.
  6. Comprobar

    Un signo negativo no elimina una coordenada del conteo ni resta amplitud.

Resultado

||x||₀=2 y ||x||₁=5.

Lo comprobamos

La primera cuenta; la segunda mide amplitud total.

EJEMPLO RESUELTO 2

Medición ambigua

Con A=[1,1], muestra dos señales de una componente no nula con medida 1.

  1. Matriz

    A=(1,1) transforma (a,b) en a+b.
  2. Primera

    x=(1,0) tiene una componente no nula y Ax=1.
  3. Segunda

    z=(0,1) tiene una componente no nula y Az=1.
  4. Distintas

    x≠z aunque ambas mediciones sean uno.
  5. Núcleo

    x−z=(1,−1) y A(x−z)=0.
  6. Conclusión

    La recuperación única falla incluso entre señales uno-dispersas; sus normas ℓ¹ también empatan.

Resultado

La recuperación única falla.

Lo comprobamos

La diferencia (1,−1) está en el núcleo.

Los símbolos que hemos usado

s-dispersa
Señal con a lo sumo s componentes no nulas.
‖x‖₀
Número de componentes no nulas; no es una norma.
‖x‖₁
Suma de módulos de las componentes.
ker A
Vectores que producen medición cero.
NSP
Propiedad del núcleo que garantiza recuperación uniforme por ℓ¹.
RIP
Preservación aproximada de norma sobre vectores de dispersión acotada.
σ_s(x)₁
Error de la mejor aproximación s-dispersa en normaℓ¹.

Ahora te toca a ti.

Tienes cinco ejercicios. Inténtalos; las pistas te ayudan si te atascas.

Practicar este tema →

Para ampliar