No supervisado y deep learning

Estado: completo (Fase 5 de ../PLAN.md).

Objetivos

Al finalizar el módulo, el estudiante será capaz de descubrir estructura en datos sin etiquetas mediante clustering y reducción de dimensionalidad, comprobar que esa estructura existe antes de interpretarla, y comprender los fundamentos de una red neuronal —arquitectura, retropropagación y entrenamiento— con un criterio medido para decidir cuándo un problema tabular no necesita deep learning.

Contenidos

✅ Núcleo

• S12 — Clustering particional: K-Means y K-Means++; sus supuestos (grupos convexos, esféricos, de tamaño parecido) y sus modos de fallo. Clustering jerárquico aglomerativo, linkages y dendrograma. Clustering por densidad: DBSCAN.
• S12 — Validación de clusters: método del codo, coeficiente de silueta, índice de Davies-Bouldin; referencia nula y estabilidad para saber si hay grupos; ARI y NMI para validar contra etiquetas externas; interpretación en unidades originales.
• S12 — Reducción de dimensionalidad: PCA desde la covarianza y la SVD (varianza explicada, cargas, scree plot, reconstrucción), cuándo no aporta y cuándo daña; t-SNE: qué conserva (vecindarios) y qué no (tamaños, distancias, existencia de grupos).
• S13 — Perceptrón y perceptrón multicapa (MLP). Funciones de activación y desvanecimiento del gradiente.
• S13 — Retropropagación: la regla de la cadena de S3 aplicada a una red, verificada contra diferencias finitas y contra el autograd de PyTorch.
• S13 — Entrenamiento en PyTorch: optimizadores (SGD, momento, Adam), mini-batches, early stopping, weight decay, dropout.
• S13 — Cuándo no usar deep learning: comparación pareada contra los ensambles de S10–S11 sobre Wine Quality y Adult Census.

🔵 Opcional

• UMAP como alternativa a t-SNE con transform (notebook 04).
• Detección de anomalías: DBSCAN como filtro de ruido e Isolation Forest (notebook 02).
• Vistazo a redes convolucionales sobre los dígitos y por qué ganan en imágenes (notebook 06); transfer learning (teoría 05).

Materiales

Teoría

Notebooks

Hallazgo del notebook 01. Codo y silueta proponen un $k$ igual de convencidos cuando hay cuatro grupos (silueta 0.77) que cuando no hay ninguno: sobre puntos uniformes, la silueta de K-Means tiene su máximo en $k = 4$ con valor 0.41. Los criterios internos comparan particiones; no comprueban que exista algo que particionar.

Hallazgo del notebook 02. K-Means con $k = 2$ recupera tinto/blanco con ARI 0.93 sin haber visto tipo, y con ningún $k$ los grupos dicen nada de la calidad (NMI $\leq 0.07$): el clustering encuentra la estructura dominante, no la que interesa. La referencia nula (columnas permutadas: silueta 0.10 frente a 0.27) confirma que la estructura es real y la escala de Kaufman y Rousseeuw, que es débil. Average, complete y single cortan un solo vino atípico; y DBSCAN en 11 dimensiones no separa grupos completos (distancias concentradas), pero señala 191 vinos con alguna variable extrema — y coincide solo en un tercio con Isolation Forest: “anomalía” no tiene una definición única.

Hallazgo del notebook 03. PCA no ve $y$: en un ejemplo construido, PC1 (91 % de la varianza) da accuracy 0.47 y PC2 (9 %) da 0.93. En Wine Quality, con los 11 componentes la AP de la logística es idéntica a la del modelo sin PCA (una rotación), y quitar componentes la baja de 0.52 a 0.40. Y sobre rendimiento-estudiantes.csv, cuyos predictores son independientes por construcción, el scree es plano: no hay nada que comprimir.

Hallazgo del notebook 04. t-SNE conserva los vecindarios (trustworthiness 0.99; un KNN sobre dos coordenadas clasifica dígitos con 0.97) y nada más: un grupo 5× más disperso aparece del mismo tamaño, uno 3× más lejano a la misma distancia, y una sola gaussiana en 10D produce un mapa con grumos cuya silueta (0.35–0.38) cuadruplica la de los datos (0.08). Clusterizar el mapa funciona cuando los grupos existen (dígitos: ARI 0.89 frente a 0.67 en 64D) y engaña cuando no.

Hallazgo del notebook 05. El gradiente a mano coincide con diferencias finitas y con el autograd de PyTorch a $10^{-10}$. En 10 capas con sigmoide, la primera recibe un gradiente $10^6$ veces menor que la última; con tanh y ReLU bien inicializadas, del mismo orden. Y un resultado que contradice la intuición de la S8: sobre 60 puntos del seno, la red de 100 neuronas ajusta la función verdadera mejor que la de 10 (ECM 0.011 frente a 0.079); el sobreajuste aparece con pocos datos y muchas épocas (lunas: la validación sube de 0.22 a 0.29), no automáticamente con el ancho.

Hallazgo del notebook 06. Sobre Wine Quality, el MLP gana a la logística (+0.023 de AP), empata con LightGBM por defecto y pierde con Extra-Trees (−0.046 ± 0.004, cociente 10) costando 6× más; sobre Adult Census, con 10× más datos, LightGBM 0.83 frente a MLP 0.78 (−0.047 ± 0.001) a una décima del tiempo. Hacer el early stopping sobre el fold evaluado infla la AP 0.017 en Wine y 0.004 en Adult. Sobre los dígitos, la CNN es la mejor y la única que resiste un desplazamiento de un píxel (0.62 frente a 0.42–0.51): gana el modelo cuyo sesgo inductivo encaja con la estructura de los datos.

Datos

Dataset conductor del módulo: wine-quality.csv (S12 y S13) · Secundarios: digits de scikit-learn (S12, 🔵 S13), adult-census.csv (S13), rendimiento-estudiantes.csv (S12)

Ejercicios

Los tres ejercicios usan datos que los notebooks no analizaron: el 01 repite el flujo completo de clustering sobre los 1359 tintos y encuentra una estructura real pero muy débil (silueta 0.205 frente a 0.09 de la referencia nula, solo $k = 2$ estable, Ward no coincide con K-Means) que correlaciona con la calidad sin predecirla; el 02 valida PCA con la métrica de un KNN sobre los dígitos (20 componentes de 64 bastan), mide qué recupera K-Means sin etiquetas (el 8 no tiene grupo propio; el 1 tiene tres) y comprueba que los subgrupos que t-SNE dibuja entre los “1” existen en los 64 píxeles (tres formas de escribirlo); el 03 extiende la retropropagación a dos capas ocultas, mide que un MLP pierde contra la regresión lineal sobre un proceso generador lineal (+0.015 ± 0.005 de RMSE), y que en Adult una red más grande no acorta la distancia con LightGBM (−0.049 ± 0.001).

Quiz

Entrega del proyecto integrador

E5 — Exploración no supervisada. Segmentación del caso con validación honesta —tres criterios, referencia nula, estabilidad, perfil en unidades originales— y qué aporta (o no) al problema original; o, como variante, un MLP comparado de forma pareada contra el mejor ensamble de E4, con el early stopping sobre datos apartados del entrenamiento. Ver ../proyecto-integrador/.

Nota sobre el alcance de S13. Esta sesión es un puente hacia el curso especializado de Deep Learning del programa. Da el fundamento (arquitectura, retropropagación, entrenamiento) y el criterio para decidir cuándo usarlo, no una cobertura completa del área.

Los notebooks se ejecutan de principio a fin con el entorno de ../pyproject.toml. Reglas de estilo en ../docs/convenciones.md.