Cambio de Variables
Probabilidad y Distribuciones
Dada una variable aleatoria X con densidad p_X, ¿cuál es la densidad de Y = f(X)? La respuesta es la fórmula del cambio de variables: para una f suave e invertible, p_Y(y) = p_X(f^{-1}(y)) left| frac{df^{-1}}{dy} right|. El factor del jacobiano corrige cómo f estira o comprime la densidad — las conc
Cuando con invertible, .
Sin el cambio de variables, los normalizing flows no existen como clase de modelo — y muchos trucos de MCMC pierden su justificación.
Dada una variable aleatoria con densidad , ¿cuál es la densidad de ? La respuesta es la fórmula del cambio de variables: para una suave e invertible, . El factor del jacobiano corrige cómo estira o comprime la densidad — las concentraciones de probabilidad se mueven con el estiramiento inverso.
En dimensiones más altas, esto se vuelve , donde es la matriz jacobiana de la inversa. Equivalentemente, usando el jacobiano hacia adelante: con . Cualquiera de las formas dice: el escalado de volumen de $f$ debe corregirse para que la probabilidad total siga siendo 1.
La fórmula requiere que sea una biyección (uno a uno y sobreyectiva en el dominio relevante) y suave lo suficiente para que su jacobiano exista. Si no es invertible — piensa en con — sumas las contribuciones de todas las preimágenes. Si colapsa dimensiones (p. ej., una transformación deficiente en rango), no puedes recuperar una densidad sobre ; en cambio, vive en una variedad de dimensión menor.
El cambio de variables aparece por todo el ML probabilístico. Derivar la distribución de una suma, cociente o transformación de variables conocidas (p. ej., con gaussiana da una log-normal). Convertir entre parámetros de escala (al modelar vs o ). Cada vez que sustituimos una parametrización, el jacobiano mantiene las probabilidades honestas.
La aplicación estrella son los normalizing flows: apilar una secuencia de transformaciones invertibles para mapear una distribución base simple (gaussiana estándar) a un objetivo complejo. Cada capa aporta un término log-det-jacobiano y la log-verosimilitud del objetivo se vuelve . Los flows son el uso más claro del cambio de variables hoy — la invertibilidad y los jacobianos tratables son toda la restricción de diseño.
Ejemplo trabajado — log-normal a partir de gaussiana: Si y , entonces con , así para . El factor del jacobiano es esencial — omitirlo daría una densidad no normalizable. Por eso los normalizing flows rastrean cada término .
Ejercicios
Pon a prueba tu comprensión. Puntos por acierto + racha + velocidad.
Confirma que captaste la idea
3 preguntas rápidas. Acertá 2 para marcar esta lección como completada.