Sistemas de Ecuaciones Lineales

Un sistema de ecuaciones lineales es una colección de ecuaciones en las que cada incógnita aparece solo elevada a la primera potencia y nunca se multiplica con otra incógnita. Un ejemplo familiar es $2x + 3y = 7$ y $x - y = 1$. La palabra *lineal* significa que cada ecuación traza un objeto plano: una recta en dos dimensiones, un plano en tres y un hiperplanoⓘ en dimensiones mayores.

¿Por qué le importa a quien hace machine learning? Porque ajustar un modelo lineal es, literalmente, resolver un sistema. Dados ejemplos de entrenamiento $(\mathbf{x}_i, y_i)$, la regresión por mínimos cuadrados pide un Vectorⓘ de pesos $\mathbf{w}$ tal que $X\mathbf{w} \approx \mathbf{y}$, donde $X$ es una matrizⓘ que apila los vectores de características como filas. Cuando $X$ es cuadrada e invertible el sistema tiene solución única; cuando no lo es (el caso común en ML), recurrimos a la aproximación vía las *ecuaciones normales* — que sigue siendo un sistema lineal.

Todo sistema lineal tiene uno de tres resultados posibles: solución única, sin solución o infinitas soluciones. Geométricamente en 2D, dos rectas pueden cortarse en un solo punto (única), ser paralelas y no cruzarse nunca (ninguna), o coincidir por completo (infinitas). Esta tricotomía se generaliza perfectamente a dimensiones superiores y es la razón por la que más adelante nos importan conceptos como el rango y la consistencia.

Una forma compacta de escribir un sistema lineal es $A\mathbf{x} = \mathbf{b}$, donde $A$ es la matriz de coeficientes, $\mathbf{x}$ es el vector de incógnitas y $\mathbf{b}$ es el vector de constantes. Esta notación no es solo abreviatura — revela estructura. Muchas propiedades del conjunto de soluciones (existencia, unicidad) se leen directamente de $A$, antes de empezar a resolver. Ese es el poder de pasar de ecuaciones a matrices.

Toda recta en 2D se puede escribir en forma pendiente-intercepto $y = mx + b$. Mueve los deslizadores de abajo para ver cómo, al cambiar la pendiente $m$ y el intercepto $b$, la recta gira y se desplaza. Cuando tienes *dos* rectas así, su sistema lineal pregunta dónde se cruzan.

Ejemplo resuelto — solución única: Resuelve $2x + 3y = 7$ y $x - y = 1$. De la segunda ecuación, $x = y + 1$. Sustituyendo y despejando $y$:

Ahora hazlo tú. Cada entrada de abajo debe ser algebraicamente equivalente a la línea anterior — escribe tu simplificación y presiona Enter. El sistema verifica equivalencia simbólicamente (y numéricamente cuando la simplificación simbólica es ambigua), así que cualquier forma intermedia válida es aceptada.

Entonces $x = y + 1 = 2$. El único punto de intersección es $(2, 1)$ — verifica: $2\cdot 2 + 3\cdot 1 = 7$ ✓ y $2 - 1 = 1$ ✓.

Trampa común: Cuando dos filas de $A$ son proporcionales (una es múltiplo constante de la otra), el sistema es redundante (infinitas soluciones) o inconsistente (ninguna) — *nunca* único. Antes de empezar a eliminar, echa un vistazo a las filas: si puedes escalar una para obtener la otra, no existe respuesta única. Es tu primer chequeo de rango.

Ejemplo resuelto — sin solución (rectas paralelas): Considera $x + y = 2$ y $2x + 2y = 5$. Divide la segunda entre 2:

Pero la primera ecuación dice $x + y = 2$. Ambas no pueden ser ciertas, así que el sistema es inconsistente — geométricamente, dos rectas paralelas que nunca se encuentran.

Conexión con ML — ecuaciones normales: Para el sistema de regresión $X\mathbf{w} = \mathbf{y}$ con $X \in \mathbb{R}^{100 \times 5}$, hay 100 ecuaciones pero solo 5 incógnitas — normalmente no existe solución exacta. Las ecuaciones normales $X^\top X \mathbf{w} = X^\top \mathbf{y}$ son un sistema lineal *cuadrado* de $5\times 5$ cuya solución única (cuando $X$ tiene rango columna completo) es el ajuste por mínimos cuadrados.

Resolver un sistema a mano suele significar eliminación gaussiana: operaciones de fila repetidas que simplifican $A$ a una forma triangular superior, seguidas de sustitución hacia atrás. Lo formalizaremos en la siguiente lección. La idea clave por ahora: un sistema lineal es un problema de intersección geométrica, una ecuación matricial y un rompecabezas algorítmico resoluble — tres puntos de vista sobre el mismo objeto.