8e336f5ef4
|
||
|---|---|---|
| .. | ||
| lab | ||
| CNN_Architectures.md | ||
| ConvNetsPyTorch.ipynb | ||
| ConvNetsTF.ipynb | ||
| README.md | ||
README.md
卷積神經網絡
我們之前已經看到，神經網絡在處理圖像方面表現相當出色，即使是單層感知器也能以合理的準確率識別 MNIST 數據集中的手寫數字。然而，MNIST 數據集非常特殊，所有的數字都集中在圖像的中心，這使得任務變得更簡單。
課前測驗
在現實生活中，我們希望能夠識別圖像中的物體，而不受它們在圖像中具體位置的影響。計算機視覺與一般的分類不同，因為當我們試圖在圖像中找到某個物體時，我們是在掃描圖像以尋找一些特定的模式及其組合。例如，當尋找一隻貓時，我們可能首先尋找水平線，這些線可能形成貓的鬍鬚，然後某些鬍鬚的組合可以告訴我們這是一隻貓的圖片。某些模式的相對位置和存在是重要的，而不是它們在圖像中的確切位置。
為了提取模式，我們將使用卷積濾波器的概念。正如你所知，圖像是由一個二維矩陣或具有顏色深度的三維張量表示的。應用濾波器意味著我們取一個相對較小的濾波器核矩陣，並對原始圖像中的每個像素與其鄰近點進行加權平均。我們可以將其視為一個小窗口滑過整個圖像，並根據濾波器核矩陣中的權重對所有像素進行平均。
 |
 |
|---|
圖片來源：Dmitry Soshnikov
例如，如果我們對 MNIST 數字應用 3x3 的垂直邊緣和水平邊緣濾波器，我們可以在原始圖像中有垂直和水平邊緣的地方得到高亮（例如高值）。因此，這兩個濾波器可以用來“尋找”邊緣。同樣，我們可以設計不同的濾波器來尋找其他低層次的模式：
圖片來源：Leung-Malik 濾波器庫
然而，雖然我們可以手動設計濾波器來提取某些模式，我們也可以設計網絡，使其能夠自動學習模式。這是 CNN 背後的主要思想之一。
CNN 的主要思想
CNN 的工作方式基於以下重要思想：
- 卷積濾波器可以提取模式
- 我們可以設計網絡，使濾波器能夠自動訓練
- 我們可以使用相同的方法來在高層次特徵中找到模式，而不僅僅是在原始圖像中。因此，CNN 的特徵提取在特徵的層次結構中工作，從低層次的像素組合開始，到更高層次的圖像部分組合。
圖片來源：Hislop-Lynch 的論文，基於他們的研究
✍️ 練習：卷積神經網絡
讓我們繼續探索卷積神經網絡的工作原理，以及如何通過相關的筆記本實現可訓練的濾波器：
金字塔架構
大多數用於圖像處理的 CNN 都遵循所謂的金字塔架構。應用於原始圖像的第一個卷積層通常具有相對較少的濾波器（8-16），這些濾波器對應於不同的像素組合，例如水平/垂直線條或筆劃。在下一層，我們減少網絡的空間維度，並增加濾波器的數量，這對應於更多簡單特徵的可能組合。隨著每一層的進展，向最終分類器移動時，圖像的空間維度減小，而濾波器的數量增加。
例如，讓我們看看 VGG-16 的架構，這是一個在 2014 年 ImageNet 的 top-5 分類中達到 92.7% 準確率的網絡：
圖片來源：Researchgate