El Renacimiento del Deep Learning: Backpropagation y la Revolución de las CNNs

Tras el “Invierno de la IA” provocado por las críticas de Minsky y Papert, las redes neuronales quedaron relegadas a un nicho académico. Parecía que la IA Simbólica había ganado la batalla. Sin embargo, un pequeño grupo de investigadores mantuvo la llama viva, preparando el terreno para una revolución que cambiaría el mundo décadas después.

1. La Solución al Problema XOR: Backpropagation (1986)

El gran bloqueo era cómo entrenar redes con capas ocultas (Multilayer Perceptrons). En 1986, Geoffrey Hinton, David Rumelhart y Ronald Williams publicaron un paper que popularizó el algoritmo de Backpropagation (Propagación hacia atrás).

Aunque la técnica matemática existía antes, ellos demostraron su poder para el aprendizaje.

• ¿Cómo funciona? Imagina un profesor que no solo te dice que tu respuesta está mal, sino que te explica exactamente qué parte de tu razonamiento falló y cuánto. El algoritmo calcula el error en la salida y lo distribuye hacia atrás por toda la red, ajustando cada conexión (peso) mediante la regla de la cadena del cálculo diferencial.

Con esto, las redes por fin podían resolver problemas no lineales complejos.

2. Yann LeCun y la Visión Artificial (1989-1998)

Mientras muchos ignoraban las redes neuronales, Yann LeCun en los laboratorios Bell aplicó una arquitectura inspirada en la biología (el córtex visual del gato) al reconocimiento de imágenes. Nacieron las Redes Neuronales Convolucionales (CNNs).

Su modelo, LeNet-5, fue un éxito comercial real: se utilizó para leer automáticamente códigos postales en cartas y cheques bancarios en EE.UU. A diferencia de las redes tradicionales que trataban la imagen como una lista plana de píxeles, las CNNs usaban filtros para detectar patrones espaciales (bordes, formas) de manera jerárquica.

3. La Travesía por el Desierto (Años 90 y 2000)

A pesar de LeNet, las redes neuronales profundas eran difíciles de entrenar. Sufrían problemas como el “desvanecimiento del gradiente” y requerían una potencia de cómputo que no existía. Durante esta época, algoritmos más simples y matemáticamente elegantes como las Support Vector Machines (SVM) y los Random Forests dominaron las competiciones de Machine Learning. El Deep Learning se consideraba poco práctico.

4. El “Big Bang”: AlexNet e ImageNet (2012)

Todo cambió en la competición ImageNet 2012. El desafío consistía en clasificar millones de imágenes en 1000 categorías. Históricamente, los errores rondaban el 26%.

Un equipo de la Universidad de Toronto (Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton) presentó AlexNet.

• El resultado: Aplastaron a la competencia con una tasa de error del 15.3%.
• La receta secreta:
  1. Big Data: ImageNet proporcionó millones de ejemplos etiquetados.
  2. GPUs: Usaron tarjetas gráficas NVIDIA (originalmente para videojuegos) para paralelizar los cálculos masivos.
  3. Algoritmos: Usaron la función de activación ReLU (más rápida que las sigmoides) y Dropout (para evitar el sobreajuste).

A partir de ese momento, la compuerta se abrió. Google, Facebook y Microsoft se lanzaron a comprar startups de Deep Learning. Había nacido la era moderna de la IA.

---

Continúa leyendo la serie sobre la Historia de las Redes Neuronales:

• Capítulo anterior: El Amanecer de las Neuronas Artificiales: Del Perceptrón al Primer Invierno
• Siguiente capítulo: La Era de la Atención: Cómo los Transformers y LLMs Conquistaron la IA