History

leestott 90e1452563 🌐 Update translations via Co-op Translator		2025-08-31 15:31:48 +00:00
..
AutoEncodersPyTorch.ipynb	🌐 Update translations via Co-op Translator	2025-08-31 15:31:48 +00:00
AutoencodersTF.ipynb	🌐 Update translations via Co-op Translator	2025-08-31 15:31:48 +00:00
README.md	🌐 Update translations via Co-op Translator	2025-08-24 22:28:16 +00:00

README.md

Autoencodeurs

Lors de l'entraînement des CNN, l'un des problèmes est que nous avons besoin de beaucoup de données étiquetées. Dans le cas de la classification d'images, nous devons séparer les images en différentes classes, ce qui demande un effort manuel.

Quiz avant le cours

Cependant, nous pourrions vouloir utiliser des données brutes (non étiquetées) pour entraîner des extracteurs de caractéristiques CNN, ce que l'on appelle l'apprentissage auto-supervisé. Au lieu d'utiliser des étiquettes, nous utilisons les images d'entraînement à la fois comme entrée et sortie du réseau. L'idée principale de l'autoencodeur est d'avoir un réseau encodeur qui convertit l'image d'entrée en un certain espace latent (généralement un vecteur de taille réduite), puis un réseau décodeur, dont l'objectif est de reconstruire l'image originale.

✅ Un autoencodeur est "un type de réseau de neurones artificiels utilisé pour apprendre des codages efficaces de données non étiquetées."

Comme nous entraînons un autoencodeur pour capturer autant d'informations que possible de l'image originale afin de la reconstruire avec précision, le réseau essaie de trouver la meilleure représentation des images d'entrée pour en capturer le sens.

Image tirée du blog Keras

Scénarios d'utilisation des autoencodeurs

Bien que reconstruire des images originales ne semble pas utile en soi, il existe quelques scénarios où les autoencodeurs sont particulièrement utiles :

Réduction de la dimension des images pour la visualisation ou entraînement des représentations d'images. Les autoencodeurs donnent généralement de meilleurs résultats que l'ACP, car ils prennent en compte la nature spatiale des images et les caractéristiques hiérarchiques.
Dénoiser, c'est-à-dire supprimer le bruit de l'image. Comme le bruit contient beaucoup d'informations inutiles, l'autoencodeur ne peut pas tout intégrer dans un espace latent relativement petit, et capture donc uniquement la partie importante de l'image. Lors de l'entraînement des débruiteurs, nous partons d'images originales et utilisons des images avec du bruit artificiellement ajouté comme entrée pour l'autoencodeur.
Super-résolution, augmentation de la résolution des images. Nous partons d'images haute résolution et utilisons l'image avec une résolution inférieure comme entrée de l'autoencodeur.
Modèles génératifs. Une fois l'autoencodeur entraîné, la partie décodeur peut être utilisée pour créer de nouveaux objets à partir de vecteurs latents aléatoires.

Autoencodeurs Variationnels (VAE)

Les autoencodeurs traditionnels réduisent la dimension des données d'entrée d'une certaine manière, en identifiant les caractéristiques importantes des images d'entrée. Cependant, les vecteurs latents n'ont souvent pas beaucoup de sens. En d'autres termes, en prenant l'exemple du jeu de données MNIST, il n'est pas facile de déterminer quels chiffres correspondent à différents vecteurs latents, car des vecteurs latents proches ne correspondent pas nécessairement aux mêmes chiffres.

En revanche, pour entraîner des modèles génératifs, il est préférable de comprendre l'espace latent. Cette idée nous conduit à l'autoencodeur variationnel (VAE).

Le VAE est un autoencodeur qui apprend à prédire une distribution statistique des paramètres latents, appelée distribution latente. Par exemple, nous pouvons vouloir que les vecteurs latents soient distribués normalement avec une certaine moyenne z_mean et un écart-type z_sigma (la moyenne et l'écart-type étant tous deux des vecteurs de dimensionnalité d). L'encodeur dans le VAE apprend à prédire ces paramètres, puis le décodeur prend un vecteur aléatoire de cette distribution pour reconstruire l'objet.

Pour résumer :

À partir du vecteur d'entrée, nous prédisons z_mean et z_log_sigma (au lieu de prédire directement l'écart-type, nous prédisons son logarithme)
Nous échantillonnons un vecteur sample à partir de la distribution N(z_mean,exp(z_{log_sigma}))
Le décodeur essaie de décoder l'image originale en utilisant sample comme vecteur d'entrée

Image tirée de cet article de blog par Isaak Dykeman

Les autoencodeurs variationnels utilisent une fonction de perte complexe composée de deux parties :

Perte de reconstruction, qui est la fonction de perte indiquant à quel point une image reconstruite est proche de la cible (cela peut être l'erreur quadratique moyenne, ou MSE). C'est la même fonction de perte que dans les autoencodeurs normaux.
Perte KL, qui garantit que les distributions des variables latentes restent proches d'une distribution normale. Elle est basée sur la notion de divergence de Kullback-Leibler - une métrique pour estimer la similarité entre deux distributions statistiques.

Un avantage important des VAE est qu'ils permettent de générer de nouvelles images relativement facilement, car nous savons de quelle distribution échantillonner les vecteurs latents. Par exemple, si nous entraînons un VAE avec un vecteur latent 2D sur MNIST, nous pouvons ensuite faire varier les composantes du vecteur latent pour obtenir différents chiffres :

Image par Dmitry Soshnikov

Observez comment les images se fondent les unes dans les autres, à mesure que nous obtenons des vecteurs latents provenant de différentes parties de l'espace des paramètres latents. Nous pouvons également visualiser cet espace en 2D :

Image par Dmitry Soshnikov

✍️ Exercices : Autoencodeurs

Apprenez-en davantage sur les autoencodeurs dans ces notebooks correspondants :

Propriétés des Autoencodeurs

Spécifiques aux données - ils ne fonctionnent bien qu'avec le type d'images sur lequel ils ont été entraînés. Par exemple, si nous entraînons un réseau de super-résolution sur des fleurs, il ne fonctionnera pas bien sur des portraits. Cela s'explique par le fait que le réseau peut produire une image de résolution supérieure en utilisant les détails fins appris à partir du jeu de données d'entraînement.
Avec perte - l'image reconstruite n'est pas identique à l'image originale. La nature de la perte est définie par la fonction de perte utilisée pendant l'entraînement.
Fonctionne sur des données non étiquetées

Quiz après le cours

Conclusion

Dans cette leçon, vous avez appris les différents types d'autoencodeurs disponibles pour le scientifique en IA. Vous avez appris à les construire et à les utiliser pour reconstruire des images. Vous avez également découvert le VAE et comment l'utiliser pour générer de nouvelles images.

🚀 Défi

Dans cette leçon, vous avez appris à utiliser les autoencodeurs pour les images. Mais ils peuvent également être utilisés pour la musique ! Consultez le projet MusicVAE du projet Magenta, qui utilise des autoencodeurs pour apprendre à reconstruire de la musique. Faites quelques expériences avec cette bibliothèque pour voir ce que vous pouvez créer.

Quiz après le cours

Révision & Auto-apprentissage

Pour référence, lisez-en davantage sur les autoencodeurs dans ces ressources :

Devoir

À la fin de ce notebook utilisant TensorFlow, vous trouverez une "tâche" - utilisez-la comme devoir.

Avertissement :
Ce document a été traduit à l'aide du service de traduction automatique Co-op Translator. Bien que nous nous efforcions d'assurer l'exactitude, veuillez noter que les traductions automatisées peuvent contenir des erreurs ou des inexactitudes. Le document original dans sa langue d'origine doit être considéré comme la source faisant autorité. Pour des informations critiques, il est recommandé de recourir à une traduction humaine professionnelle. Nous déclinons toute responsabilité en cas de malentendus ou d'interprétations erronées résultant de l'utilisation de cette traduction.