Descomposición en Valores Singulares (SVD)
Descomposiciones Matriciales
La descomposición en valores singulares (SVD) factoriza *cualquier* matriz A in mathbb{R}^{mtimes n} como A = USigma V^top, donde U in mathbb{R}^{mtimes m} y V in mathbb{R}^{ntimes n} son ortogonales y Sigma es una matriz diagonal (rectangular) con entradas no negativas sigma_1 geq sigma_2 geq dots
La SVD factoriza cualquier matriz como — rotar, escalar, rotar.
Sin SVD no hay pseudo-inversa estable, no hay PCA, no hay recomendador de SVD truncado, no hay adaptadores LoRA de bajo rango en los LLMs modernos, y no hay forma principiada de diagnosticar el mal condicionamiento.
La descomposición en valores singulares (SVD) factoriza *cualquier* matrizⓘ como , donde y son ortogonalesⓘ y es una matriz diagonal (rectangular) con entradas no negativas llamadas valores singularesⓘ. A diferencia de la descomposición espectral, la SVD se aplica a matrices rectangulares y singulares — no hay condición de 'diagonalizabilidad' que cumplir.
Geométricamente, todo mapa lineal se factoriza como rotar, escalar, rotar. rota el espacio de entrada para alinearlo con los ejes principales de los datos, estira cada eje de forma independiente (posiblemente aplastando algunos a cero) y rota al espacio de salida. Esta descomposición explica por qué la SVD es tan potente: revela la acción geométrica intrínseca de cualquier matriz.
Cuidado: *No* confundas valores singulares con autovalores. Los valores singulares siempre son reales y no negativos; los autovalores de una matriz real no simétrica pueden ser complejos. Para una matriz simétrica semidefinida positiva coinciden, pero en general , *no* . Mezclarlos es uno de los errores más comunes en álgebra lineal numérica.
Los valores singulares se relacionan con los autovalores: los son las raíces cuadradas de los autovalores de (o de ). Las columnas de son los autovectores correspondientes de (vectores singulares derechos); las columnas de son los autovectores de (vectores singulares izquierdos). Para matrices simétricas, SVD y descomposición espectral coinciden salvo signo.
Muchos diagnósticos matriciales se leen directamente de los valores singulares. El rango de es el número de valores singulares no nulos. El número de condición mide la sensibilidad numérica — un número de condición grande significa que pequeños errores de entrada explotan. La norma espectral es , y la norma de Frobenius es .
Ejemplo resuelto — SVD de una matriz 2×2: Para (ya diagonal, positiva), la SVD es trivial: , , . Valores singulares ; tanto como son la identidad. Cualquier matriz diagonal con entradas no negativas es su propia SVD.
Ejemplo resuelto — valores singulares de una matriz rectangular: Para (2×3), calcula . Sus autovalores son 1 y 4. Los valores singulares son entonces . Rango = 2 (dos valores singulares no nulos), coincidiendo con que tiene rango de filas completo.
La SVD es la herramienta universal de ML. La pseudo-inversa de Moore–Penrose es — la mejor inversa posible para matrices rectangulares/singulares, usada en regresión por mínimos cuadrados. PCA sobre una matriz de datos es literalmente la SVD de (centrada). Análisis Semántico Latente, sistemas de recomendación, compresión de modelos y adaptación de bajo rango se reducen a truncar la SVD para conservar solo los valores singulares más grandes.
Ejercicios
Pon a prueba tu comprensión. Puntos por acierto + racha + velocidad.
Confirma que captaste la idea
3 preguntas rápidas. Acertá 2 para marcar esta lección como completada.