Proyecciones Ortogonales

Una proyección ortogonal sobre un subespacio $U$ es la aplicación lineal $\pi_U : V \to V$ que envía cada vector $\mathbf{v}$ a su única mejor aproximación dentro de $U$ — el vector $\mathbf{u}^* \in U$ que minimiza $\|\mathbf{v} - \mathbf{u}\|$. Por el teorema de descomposición ortogonal, este $\mathbf{u}^*$ es exactamente la componente en $U$ de $\mathbf{v}$.

Para un subespacio unidimensional generado por un vector unitario $\mathbf{b}$, la proyección es simple: $\pi_{\mathbf{b}}(\mathbf{v}) = \langle \mathbf{v}, \mathbf{b}\rangle \mathbf{b}$. Cuando $\mathbf{b}$ no es unitario, divide por su norma al cuadrado: $\pi_{\mathbf{b}}(\mathbf{v}) = \frac{\langle \mathbf{v}, \mathbf{b}\rangle}{\langle \mathbf{b}, \mathbf{b}\rangle} \mathbf{b}$. El escalar $\langle \mathbf{v}, \mathbf{b}\rangle / \|\mathbf{b}\|^2$ es la coordenada de la proyección a lo largo de $\mathbf{b}$.

Para un subespacio general $U = \text{col}(B)$ donde las columnas de $B$ son una base de $U$, la matriz de proyección es $P_U = B(B^\top B)^{-1} B^\top$. Si las columnas de $B$ son ortonormales, esto se simplifica a $P_U = BB^\top$. Las matrices de proyección son simétricas ($P^\top = P$) e idempotentes ($P^2 = P$): proyectar dos veces es lo mismo que proyectar una vez.

La solución por mínimos cuadrados de $A\mathbf{x} = \mathbf{b}$ (cuando no hay solución exacta) es exactamente $\hat{\mathbf{x}} = (A^\top A)^{-1} A^\top \mathbf{b}$ — la preimagen de la proyección de $\mathbf{b}$ sobre $\text{col}(A)$. Cada problema de regresión, cada ajuste de curva, cada paso de reducción de dimensionalidad es secretamente una proyección ortogonal disfrazada.

Ejemplo resuelto — proyección sobre una recta: Proyecta $\mathbf{v} = (2, 3)$ sobre $\text{span}\{(1, 0)\}$. Como $\mathbf{b} = (1, 0)$ es unitario, $\pi(\mathbf{v}) = \langle \mathbf{v}, \mathbf{b}\rangle \mathbf{b} = 2 \cdot (1, 0) = (2, 0)$. El residuo $(0, 3)$ es perpendicular al eje $x$ ✓.

Las proyecciones también impulsan la extracción de características y el denoising. PCA proyecta datos sobre el subespacio principal de tamaño $k$, descartando direcciones de ruido. En compresión de imagen, proyectar sobre una base wavelet o DCT y conservar los coeficientes más grandes es una proyección con pérdidas que el ojo humano apenas nota. Siempre que aproximas algo complicado con algo más simple, casi seguro hay una proyección detrás.