109 lines
7.5 KiB
Markdown
109 lines
7.5 KiB
Markdown
<!--
|
||
CO_OP_TRANSLATOR_METADATA:
|
||
{
|
||
"original_hash": "0b306c04f5337b6e7430e5c0b16bb5c0",
|
||
"translation_date": "2025-08-24T20:32:14+00:00",
|
||
"source_file": "lessons/4-ComputerVision/09-Autoencoders/README.md",
|
||
"language_code": "zh"
|
||
}
|
||
-->
|
||
# 自编码器
|
||
|
||
在训练 CNN 时，一个主要问题是我们需要大量的标注数据。以图像分类为例，我们需要将图像分成不同的类别，这通常需要手动完成。
|
||
|
||
## [课前测验](https://red-field-0a6ddfd03.1.azurestaticapps.net/quiz/109)
|
||
|
||
然而，我们可能希望使用原始（未标注的）数据来训练 CNN 的特征提取器，这被称为**自监督学习**。在这种情况下，我们不使用标签，而是将训练图像同时作为网络的输入和输出。**自编码器**的核心思想是，我们会有一个**编码器网络**，将输入图像转换为某种**潜在空间**（通常是一个较小尺寸的向量），然后通过**解码器网络**来重建原始图像。
|
||
|
||
> ✅ 一个[自编码器](https://wikipedia.org/wiki/Autoencoder)是“一种用于学习未标注数据高效编码的人工神经网络。”
|
||
|
||
由于我们训练自编码器的目标是尽可能多地捕获原始图像的信息以实现精确重建，网络会尝试找到输入图像的最佳**嵌入**来捕捉其意义。
|
||
|
||
|
||
|
||
> 图片来源：[Keras 博客](https://blog.keras.io/building-autoencoders-in-keras.html)
|
||
|
||
## 自编码器的应用场景
|
||
|
||
虽然重建原始图像本身看似没有直接用途，但在以下场景中，自编码器非常有用：
|
||
|
||
* **降低图像维度以便可视化**或**训练图像嵌入**。通常，自编码器比 PCA（主成分分析）效果更好，因为它考虑了图像的空间特性和层次特征。
|
||
* **去噪**，即从图像中去除噪声。由于噪声包含了大量无用信息，自编码器无法将所有噪声压缩到相对较小的潜在空间中，因此它只捕获图像的重要部分。在训练去噪器时，我们以原始图像为目标，并将带有人工添加噪声的图像作为自编码器的输入。
|
||
* **超分辨率**，即提高图像分辨率。我们以高分辨率图像为目标，并将低分辨率图像作为自编码器的输入。
|
||
* **生成模型**。一旦训练好自编码器，解码器部分可以用来从随机潜在向量生成新对象。
|
||
|
||
## 变分自编码器 (VAE)
|
||
|
||
传统的自编码器通过某种方式降低输入数据的维度，提取输入图像的重要特征。然而，潜在向量通常没有太多意义。换句话说，以 MNIST 数据集为例，确定哪些数字对应于不同的潜在向量并不容易，因为相近的潜在向量不一定对应于相同的数字。
|
||
|
||
另一方面，对于训练**生成模型**，理解潜在空间会更有帮助。这一想法引出了**变分自编码器**（VAE）。
|
||
|
||
VAE 是一种学习预测潜在参数**统计分布**的自编码器，称为**潜在分布**。例如，我们可能希望潜在向量服从某种正态分布，其均值为 z<sub>mean</sub>，标准差为 z<sub>sigma</sub>（均值和标准差都是某个维度 d 的向量）。VAE 的编码器学习预测这些参数，然后解码器从该分布中随机采样一个向量以重建对象。
|
||
|
||
总结如下：
|
||
|
||
* 从输入向量预测 `z_mean` 和 `z_log_sigma`（我们预测的是标准差的对数而不是标准差本身）
|
||
* 从分布 N(z<sub>mean</sub>,exp(z<sub>log_sigma</sub>)) 中采样一个向量 `sample`
|
||
* 解码器尝试使用 `sample` 作为输入向量解码原始图像
|
||
|
||
<img src="images/vae.png" width="50%">
|
||
|
||
> 图片来源：[这篇博客](https://ijdykeman.github.io/ml/2016/12/21/cvae.html) by Isaak Dykeman
|
||
|
||
变分自编码器使用一个复杂的损失函数，由两部分组成：
|
||
|
||
* **重建损失**：衡量重建图像与目标图像的接近程度（可以是均方误差 MSE）。这与普通自编码器的损失函数相同。
|
||
* **KL 损失**：确保潜在变量分布接近正态分布。它基于[KL 散度](https://www.countbayesie.com/blog/2017/5/9/kullback-leibler-divergence-explained)的概念——一种衡量两个统计分布相似程度的指标。
|
||
|
||
VAE 的一个重要优势是它可以相对容易地生成新图像，因为我们知道从哪个分布中采样潜在向量。例如，如果我们用 2D 潜在向量在 MNIST 上训练 VAE，我们可以通过调整潜在向量的分量生成不同的数字：
|
||
|
||
<img alt="vaemnist" src="images/vaemnist.png" width="50%"/>
|
||
|
||
> 图片来源：[Dmitry Soshnikov](http://soshnikov.com)
|
||
|
||
观察图像如何相互融合，当我们从潜在参数空间的不同部分获取潜在向量时，可以看到这种变化。我们还可以将这个空间可视化为二维图：
|
||
|
||
<img alt="vaemnist cluster" src="images/vaemnist-diag.png" width="50%"/>
|
||
|
||
> 图片来源：[Dmitry Soshnikov](http://soshnikov.com)
|
||
|
||
## ✍️ 练习：自编码器
|
||
|
||
通过以下笔记本进一步了解自编码器：
|
||
|
||
* [TensorFlow 中的自编码器](../../../../../lessons/4-ComputerVision/09-Autoencoders/AutoencodersTF.ipynb)
|
||
* [PyTorch 中的自编码器](../../../../../lessons/4-ComputerVision/09-Autoencoders/AutoEncodersPyTorch.ipynb)
|
||
|
||
## 自编码器的特性
|
||
|
||
* **数据特定性** - 它们只对训练时使用的图像类型效果良好。例如，如果我们在花卉图像上训练一个超分辨率网络，它在肖像图像上效果可能不好。这是因为网络通过从训练数据集中学习的特征中提取细节来生成高分辨率图像。
|
||
* **有损性** - 重建的图像与原始图像并不完全相同。损失的性质由训练时使用的*损失函数*决定。
|
||
* 适用于**未标注数据**
|
||
|
||
## [课后测验](https://red-field-0a6ddfd03.1.azurestaticapps.net/quiz/209)
|
||
|
||
## 总结
|
||
|
||
在本课中，你学习了 AI 科学家可用的各种类型的自编码器。你学习了如何构建它们，以及如何使用它们重建图像。你还学习了 VAE 以及如何使用它生成新图像。
|
||
|
||
## 🚀 挑战
|
||
|
||
在本课中，你学习了如何将自编码器用于图像。但它们也可以用于音乐！查看 Magenta 项目的 [MusicVAE](https://magenta.tensorflow.org/music-vae) 项目，该项目使用自编码器学习重建音乐。通过[实验](https://colab.research.google.com/github/magenta/magenta-demos/blob/master/colab-notebooks/Multitrack_MusicVAE.ipynb)这个库，看看你能创造出什么。
|
||
|
||
## [课后测验](https://red-field-0a6ddfd03.1.azurestaticapps.net/quiz/208)
|
||
|
||
## 复习与自学
|
||
|
||
参考以下资源，进一步了解自编码器：
|
||
|
||
* [在 Keras 中构建自编码器](https://blog.keras.io/building-autoencoders-in-keras.html)
|
||
* [NeuroHive 博客文章](https://neurohive.io/ru/osnovy-data-science/variacionnyj-avtojenkoder-vae/)
|
||
* [变分自编码器详解](https://kvfrans.com/variational-autoencoders-explained/)
|
||
* [条件变分自编码器](https://ijdykeman.github.io/ml/2016/12/21/cvae.html)
|
||
|
||
## 作业
|
||
|
||
在 [这个使用 TensorFlow 的笔记本](../../../../../lessons/4-ComputerVision/09-Autoencoders/AutoencodersTF.ipynb)的末尾，你会找到一个“任务”——将其作为你的作业完成。
|
||
|
||
**免责声明**：
|
||
本文档使用AI翻译服务 [Co-op Translator](https://github.com/Azure/co-op-translator) 进行翻译。尽管我们努力确保翻译的准确性，但请注意，自动翻译可能包含错误或不准确之处。应以原始语言的文档作为权威来源。对于关键信息，建议使用专业人工翻译。我们对于因使用此翻译而引起的任何误解或误读不承担责任。 |