La historia del aprendizaje profundo (deep learning) se remonta a 1943, cuando Walter Pitts y Warren McCulloch crearon un modelo informático basado en redes neuronales, utilizando "lógica de umbral" para imitar el proceso de pensamiento humano. Desde entonces, el campo ha evolucionado con avances significativos, aunque también enfrentó períodos de estancamiento conocidos como los "inviernos de la IA".

Durante el primer "invierno de la IA", la falta de financiamiento limitó la investigación. A pesar de esto, Kunihiko Fukushima desarrolló las primeras redes neuronales convolucionales, como el Neocognitron, que permitían reconocer patrones visuales.

Años 1970:

Henry J. Kelley y Stuart Dreyfus sentaron las bases de la retropropagación, un método clave para entrenar redes neuronales. Sin embargo, este enfoque no se volvió práctico hasta 1985.

Años 1960:

• Surgió el problema del gradiente desaparecido, que dificultaba el entrenamiento de redes profundas. Esto se solucionó con mejores funciones de activación.

• En 2009, Fei-Fei Li lanzó ImageNet, una base de datos con millones de imágenes etiquetadas, crucial para entrenar redes neuronales.

• En 2011, el aumento en la velocidad de las GPU permitió entrenar redes neuronales convolucionales de manera más eficiente. AlexNet, una red neuronal, ganó competencias internacionales en 2012.

• En 2012, el Experimento del Gato de Google Brain exploró el aprendizaje no supervisado, utilizando millones de imágenes de YouTube para identificar patrones.

​Años 2000 y 2010: