Normas

Una norma sobre un espacio vectorial $V$ es una función $\|\cdot\| : V \to \mathbb{R}_{\geq 0}$ que asigna a cada vector una longitud no negativa. Formalmente debe satisfacer tres axiomas: homogeneidad absoluta ($\|\lambda \mathbf{v}\| = |\lambda| \cdot \|\mathbf{v}\|$), la desigualdad triangular ($\|\mathbf{u} + \mathbf{v}\| \leq \|\mathbf{u}\| + \|\mathbf{v}\|$) y definida positiva ($\|\mathbf{v}\| = 0 \iff \mathbf{v} = \mathbf{0}$).

Las tres normas más importantes en ML forman una familia. La norma euclidiana o $L_2$ $\|\mathbf{x}\|_2 = \sqrt{x_1^2 + \dots + x_n^2}$ es la distancia en línea recta que conoces de la escuela. La norma Manhattan o $L_1$ $\|\mathbf{x}\|_1 = |x_1| + \dots + |x_n|$ mide el recorrido cuadra por cuadra. La norma máxima o $L_\infty$ $\|\mathbf{x}\|_\infty = \max_i |x_i|$ devuelve la componente más grande.

Estas se unifican en la norma $L_p$: $\|\mathbf{x}\|_p = \left(\sum_i |x_i|^p\right)^{1/p}$ para $p \geq 1$. Cuando $p \to \infty$ recuperamos $L_\infty$. La bola unidad $\{\mathbf{x} : \|\mathbf{x}\| \leq 1\}$ tiene una forma distinta para cada $p$: un diamante para $L_1$, un círculo para $L_2$, un cuadrado para $L_\infty$. Esa forma no es cosmética — define la geometría de la regularización.

En ML las normas miden el *tamaño* de los parámetros o errores. La regresión Ridge suma $\lambda \|\mathbf{w}\|_2^2$ a la pérdida, encogiendo los pesos suavemente hacia cero. La regresión Lasso usa $\lambda \|\mathbf{w}\|_1$; como la bola unidad $L_1$ tiene esquinas afiladas sobre los ejes, el óptimo suele caer exactamente sobre un eje, produciendo un vector de pesos disperso. Cambiar de norma cambia literalmente la geometría de la solución.

Ejemplo trabajado — norma L2: Sea $\mathbf{v} = (3, 4)$. Calcula su longitud paso a paso:

Geométricamente, esta es la longitud del vector desde el origen hasta $(3, 4)$ — el famoso triángulo rectángulo 3-4-5.

Un hecho potente: en cualquier espacio vectorial *de dimensión finita*, todas las normas son equivalentes en el sentido de que inducen la misma topología — la convergencia en una norma implica la convergencia en cualquier otra. En la práctica esto significa que la elección de norma afecta valores numéricos y geometría, pero no propiedades cualitativas como continuidad o límites. En dimensión infinita (espacios de funciones) esta equivalencia se rompe, y por eso el análisis funcional se vuelve mucho más rico.