AI-For-Beginners/translations/br/lessons/4-ComputerVision/09-Autoencoders

Autoencoders

Ao treinar CNNs, um dos problemas é que precisamos de muitos dados rotulados. No caso de classificação de imagens, precisamos separar as imagens em diferentes classes, o que exige esforço manual.

Pre-lecture quiz

No entanto, podemos querer usar dados brutos (não rotulados) para treinar extratores de características de CNN, o que é chamado de aprendizado auto-supervisionado. Em vez de rótulos, usaremos imagens de treinamento como entrada e saída da rede. A ideia principal do autoencoder é que teremos uma rede codificadora que converte a imagem de entrada em algum espaço latente (normalmente é apenas um vetor de tamanho menor), e então uma rede decodificadora, cujo objetivo será reconstruir a imagem original.

✅ Um autoencoder é "um tipo de rede neural artificial usada para aprender codificações eficientes de dados não rotulados."

Como estamos treinando um autoencoder para capturar o máximo de informações da imagem original possível para uma reconstrução precisa, a rede tenta encontrar a melhor representação das imagens de entrada para capturar seu significado.

Imagem do blog do Keras

Cenários para o uso de Autoencoders

Embora reconstruir imagens originais possa não parecer útil por si só, existem alguns cenários em que os autoencoders são especialmente úteis:

• Reduzir a dimensionalidade de imagens para visualização ou treinar representações de imagens. Geralmente, autoencoders oferecem melhores resultados do que PCA, porque levam em conta a natureza espacial das imagens e características hierárquicas.
• Remoção de ruído, ou seja, eliminar ruídos da imagem. Como o ruído carrega muitas informações inúteis, o autoencoder não consegue encaixar tudo no espaço latente relativamente pequeno e, assim, captura apenas a parte importante da imagem. Ao treinar removedores de ruído, começamos com imagens originais e usamos imagens com ruído artificialmente adicionado como entrada para o autoencoder.
• Super-resolução, aumentando a resolução da imagem. Começamos com imagens de alta resolução e usamos a imagem com resolução mais baixa como entrada do autoencoder.
• Modelos generativos. Uma vez treinado o autoencoder, a parte decodificadora pode ser usada para criar novos objetos a partir de vetores latentes aleatórios.

Autoencoders Variacionais (VAE)

Autoencoders tradicionais reduzem a dimensionalidade dos dados de entrada de alguma forma, identificando as características importantes das imagens de entrada. No entanto, os vetores latentes frequentemente não fazem muito sentido. Em outras palavras, usando o conjunto de dados MNIST como exemplo, identificar quais dígitos correspondem a diferentes vetores latentes não é uma tarefa fácil, porque vetores latentes próximos não necessariamente correspondem aos mesmos dígitos.

Por outro lado, para treinar modelos generativos, é melhor ter algum entendimento do espaço latente. Essa ideia nos leva ao autoencoder variacional (VAE).

O VAE é um autoencoder que aprende a prever a distribuição estatística dos parâmetros latentes, chamada de distribuição latente. Por exemplo, podemos querer que os vetores latentes sejam distribuídos normalmente com uma média z_mean e um desvio padrão z_sigma (tanto a média quanto o desvio padrão são vetores de alguma dimensionalidade d). O codificador no VAE aprende a prever esses parâmetros, e então o decodificador pega um vetor aleatório dessa distribuição para reconstruir o objeto.

Resumindo:

• A partir do vetor de entrada, prevemos z_mean e z_log_sigma (em vez de prever o desvio padrão diretamente, prevemos seu logaritmo)
• Amostramos um vetor sample da distribuição N(z_mean,exp(z_{log_sigma}))
• O decodificador tenta decodificar a imagem original usando sample como vetor de entrada

Imagem deste post no blog por Isaak Dykeman

Autoencoders variacionais usam uma função de perda complexa que consiste em duas partes:

• Perda de reconstrução é a função de perda que mostra o quão próxima a imagem reconstruída está do alvo (pode ser o Erro Quadrático Médio, ou MSE). É a mesma função de perda usada em autoencoders normais.
• Perda KL, que garante que as distribuições das variáveis latentes permaneçam próximas da distribuição normal. É baseada na noção de divergência de Kullback-Leibler - uma métrica para estimar quão semelhantes duas distribuições estatísticas são.

Uma vantagem importante dos VAEs é que eles permitem gerar novas imagens com relativa facilidade, porque sabemos de qual distribuição amostrar os vetores latentes. Por exemplo, se treinarmos um VAE com vetor latente 2D no MNIST, podemos variar os componentes do vetor latente para obter diferentes dígitos:

Imagem por Dmitry Soshnikov

Observe como as imagens se misturam, à medida que começamos a obter vetores latentes de diferentes partes do espaço de parâmetros latentes. Também podemos visualizar esse espaço em 2D:

Imagem por Dmitry Soshnikov

✍️ Exercícios: Autoencoders

Saiba mais sobre autoencoders nestes notebooks correspondentes:

• Autoencoders no TensorFlow
• Autoencoders no PyTorch

Propriedades dos Autoencoders

• Específicos para os Dados - eles funcionam bem apenas com o tipo de imagens nos quais foram treinados. Por exemplo, se treinarmos uma rede de super-resolução em flores, ela não funcionará bem em retratos. Isso ocorre porque a rede pode produzir imagens de maior resolução aproveitando os detalhes finos aprendidos a partir do conjunto de dados de treinamento.
• Com perdas - a imagem reconstruída não é idêntica à imagem original. A natureza da perda é definida pela função de perda usada durante o treinamento.
• Funciona com dados não rotulados

Post-lecture quiz

Conclusão

Nesta lição, você aprendeu sobre os vários tipos de autoencoders disponíveis para o cientista de IA. Aprendeu como construí-los e como usá-los para reconstruir imagens. Também aprendeu sobre o VAE e como usá-lo para gerar novas imagens.

🚀 Desafio

Nesta lição, você aprendeu sobre o uso de autoencoders para imagens. Mas eles também podem ser usados para música! Confira o projeto MusicVAE do Magenta, que usa autoencoders para aprender a reconstruir música. Faça alguns experimentos com esta biblioteca para ver o que você pode criar.

Post-lecture quiz

Revisão e Autoestudo

Para referência, leia mais sobre autoencoders nestes recursos:

• Construindo Autoencoders no Keras
• Post no blog NeuroHive
• Autoencoders Variacionais Explicados
• Autoencoders Variacionais Condicionais

Tarefa

No final deste notebook usando TensorFlow, você encontrará uma 'tarefa' - use-a como sua tarefa.

Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos para garantir a precisão, esteja ciente de que traduções automáticas podem conter erros ou imprecisões. O documento original em seu idioma nativo deve ser considerado a fonte oficial. Para informações críticas, recomenda-se a tradução profissional realizada por humanos. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações equivocadas decorrentes do uso desta tradução.