Matrices

Una matriz es un arreglo rectangular de números organizados en filas y columnas. Denotamos una matriz $m \times n$ como $A \in \mathbb{R}^{m \times n}$, donde $m$ es el número de filas y $n$ es el número de columnas. La entrada en la fila $i$ y columna $j$ se escribe $a_{ij}$. En machine learning, un dataset con $m$ ejemplos y $n$ características suele almacenarse como una matriz así — comúnmente llamada la matriz de diseño.

Las matrices admiten tres operaciones fundamentales. La suma y la multiplicación escalar se aplican entrada por entrada y requieren dimensiones que coincidan (para la suma). La multiplicación matricial, en cambio, es más sutil. El producto $AB$ se define solo cuando el número de columnas de $A$ es igual al número de filas de $B$, y la entrada $(i,j)$ de $AB$ es el producto punto de la fila $i$ de $A$ con la columna $j$ de $B$: $(AB)_{ij} = \sum_{k} a_{ik} b_{kj}$.

La multiplicación matricial no es conmutativa: en general $AB \neq BA$, incluso cuando ambos productos están definidos. Sin embargo, sí es asociativa ($(AB)C = A(BC)$) y distributiva sobre la suma. Estas leyes algebraicas son las que nos permiten factorizar, reorganizar y descomponer expresiones en ML — por ejemplo, al derivar las ecuaciones normales $(X^\top X)\mathbf{w} = X^\top \mathbf{y}$.

Las matrices especiales aparecen por todos lados. La matriz identidad $I_n$ tiene unos en la diagonal y ceros en el resto; cumple $IA = AI = A$. La traspuesta $A^\top$ intercambia filas y columnas, y $(AB)^\top = B^\top A^\top$. Una matriz es simétrica si $A = A^\top$ (las matrices de covarianza siempre son simétricas), diagonal si solo la diagonal es no nula, y ortogonal si $A^\top A = I$ (las matrices ortogonales preservan longitudes y ángulos — piensa en rotaciones y reflexiones).

La inversa $A^{-1}$, cuando existe, satisface $A A^{-1} = A^{-1} A = I$. Una matriz es invertible (también llamada *no singular*) si y solo si es cuadrada y sus columnas son linealmente independientes. No toda matriz tiene inversa — para las que no, recurrimos a inversas generalizadas como la pseudoinversa de Moore–Penrose, que es el corazón palpitante de las soluciones por mínimos cuadrados.