Redes Neurais Artificiais podem ser utilizadas como modelos de aprendizado supervisionado ou não supervisionado, dependendo da configuração da arquitetura e da natureza dos dados de treinamento.

As Redes Neurais Profundas caracterizam-se pelo uso de múltiplas camadas ocultas, permitindo a extração de representações progressivamente mais abstratas dos dados de entrada.

O processo de treinamento de Redes Neurais Profundas envolve a otimização de pesos por meio de algoritmos baseados em gradiente, sendo a retropropagação (backpropagation) um componente central desse processo.

Em comparação com modelos tradicionais de Machine Learning, as Redes Neurais Profundas tendem a apresentar maior capacidade de modelagem, ao custo de maior demanda por recursos computacionais e maior volume de dados para treinamento.

A capacidade de Redes Neurais Profundas aprenderem representações complexas decorre exclusivamente do aumento do número de camadas, sendo a escolha da função de ativação um fator irrelevante para a convergência e a expressividade do modelo.