15 · Por qué CNNs: estructura espacial y compartición de parámetros
Los MLPs ignoran la estructura espacial y explotan en parámetros con imágenes; las CNNs explotan la localidad y el compartido de pesos para reducir el conteo de parámetros en 4 órdenes de magnitud.
Una capa totalmente conectada ignora la estructura espacial; una convolución desliza el MISMO filtro pequeño por toda la imagen — muchos menos parámetros Y respeta la localidad.
Sin esto:
Un MLP sobre una imagen 224×224×3 necesita 150k parámetros por neurona en la primera capa; una CNN necesita ~3×3×3=27.
En el momento en que aplicas una capa totalmente conectada estándar a una imagen, te topas con un muro. Una imagen modesta de 224×224×3 tiene 150,528 números. Si la primera capa oculta tiene 256 neuronas, esa capa sola necesita 150,528 × 256 = 38.5 millones de parámetros — antes de cualquier otra capa, antes de cualquier profundidad. Para que la red aprenda, necesitarías miles de millones de imágenes etiquetadas solo para evitar memorizar el conjunto de entrenamiento.
Pero el problema real no es solo la escala — es el sesgo inductivo equivocado. Una capa totalmente conectada trata cada píxel como igualmente relacionado con todos los demás píxeles. Eso está bien para una fila de hoja de cálculo donde el orden de columnas es arbitrario. Para imágenes es absurdo: los vecinos más informativos de un píxel son los píxeles inmediatamente a su alrededor. El borde entre la oreja de un perro y el cielo es un patrón local; no hay razón para que esa neurona dependa de un píxel 200 columnas más allá.
Las Redes Neuronales Convolucionales (CNNs) resuelven ambos problemas con una idea: en lugar de un peso por par (píxel de entrada, neurona), usan un filtro pequeño — una cuadrícula de pesos de 3×3 o 5×5 — y lo deslizan por toda la imagen, aplicando los mismos pesos en todas partes. Esto es compartición de parámetros: un filtro, un conjunto de pesos, aplicado en cada ubicación.
De este diseño surgen tres propiedades:
- Campos receptivos locales — cada salida depende solo de un pequeño vecindario.
- Compartición de parámetros — un filtro aprende una característica (por ejemplo, un borde vertical) y la detecta en todas partes.
- Equivarianza a la traslación — si la entrada se desplaza, la salida se desplaza la misma cantidad.
Estas propiedades coinciden casi perfectamente con las estadísticas de las imágenes naturales, razón por la que las CNNs dominaron la visión computacional desde AlexNet (2012) hasta que los Vision Transformers emergieron una década después.
Python (in browser)
Python runs entirely in your browser via Pyodide (~6 MB on first Run, cached after).
Las tres propiedades clave de las CNNs: campos receptivos locales, compartición de parámetros, equivarianza a la traslación
Analogía biológica: experimentos de Hubel y Wiesel en la corteza visual y su conexión con las CNNs
Python (in browser)
Python runs entirely in your browser via Pyodide (~6 MB on first Run, cached after).
¿Por qué una CNN necesita 4 órdenes de magnitud menos parámetros que un MLP en imágenes?
- MLP en una imagen 224×224×3 → ~38M params en primera capa; CNN con 32 filtros de 3×3×3 → 864 params — 4 órdenes de magnitud menor.
- Tres propiedades de las CNNs: (1) campos receptivos locales, (2) compartición de parámetros — el mismo filtro se desliza por todas partes, (3) equivarianza a la traslación — la salida se desplaza cuando la entrada se desplaza.
- La jerarquía CNN refleja la jerarquía de la corteza visual descubierta por Hubel y Wiesel en 1959: bordes → curvas → partes de objetos → objetos completos.
- Las CNNs son equivariantes (no invariantes) a la traslación; el max-pooling añade invariancia parcial; la invariancia completa requiere aumento de datos o convoluciones de grupo.
Cada clasificador de imágenes, detector de objetos y modelo de segmentación desde 2012 es basado en CNN o tiene un backbone CNN. Los Vision Transformers están comenzando a reemplazarlos, pero la mayoría del CV en producción sigue siendo CNN.
Si lo quitas: Intentarías aplicar MLPs a imágenes, chocarías inmediatamente con la explosión de parámetros, y no tendrías un modelo mental de por qué los modelos de visión modernos están diseñados como están.