AI-For-Beginners/translations/tw/lessons/5-NLP/16-RNN

循環神經網路

課前測驗

在之前的章節中，我們使用了豐富的文本語義表示以及嵌入層上的簡單線性分類器。這種架構能夠捕捉句子中詞語的聚合意義，但它無法考慮詞語的順序，因為嵌入層上的聚合操作會移除原始文本中的這些信息。由於這些模型無法建模詞語的順序，它們無法解決更複雜或模糊的任務，例如文本生成或問題回答。

為了捕捉文本序列的意義，我們需要使用另一種神經網路架構，稱為循環神經網路（Recurrent Neural Network，RNN）。在 RNN 中，我們將句子逐個符號傳遞給網路，網路會生成某種狀態，然後將該狀態與下一個符號一起再次傳遞給網路。

圖片由作者提供

給定輸入序列的符號 X₀,...,X_n，RNN 會創建一系列神經網路模塊，並通過反向傳播端到端訓練這個序列。每個網路模塊接受一對 (X_i,S_i) 作為輸入，並生成 S_i+1 作為結果。最終的狀態 S_n 或 (輸出 Y_n) 會進入線性分類器以生成結果。所有的網路模塊共享相同的權重，並通過一次反向傳播端到端訓練。

由於狀態向量 S₀,...,S_n 被傳遞給網路，它能夠學習詞語之間的序列依賴性。例如，當某個序列中出現詞語 not 時，它可以學習在狀態向量中否定某些元素，從而實現否定。

✅ 由於上圖中所有 RNN 模塊的權重是共享的，因此同一圖可以表示為右側的一個模塊，具有循環反饋迴路，將網路的輸出狀態回傳到輸入。

RNN 單元的結構

讓我們來看看一個簡單的 RNN 單元是如何組織的。它接受前一狀態 S_i-1 和當前符號 X_i 作為輸入，並需要生成輸出狀態 S_i（有時我們也對其他輸出 Y_i 感興趣，例如在生成網路的情況下）。

一個簡單的 RNN 單元內部有兩個權重矩陣：一個用於轉換輸入符號（我們稱之為 W），另一個用於轉換輸入狀態（H）。在這種情況下，網路的輸出計算公式為 σ(W×X_i+H×S_i-1+b)，其中 σ 是激活函數，b 是額外的偏置。

圖片由作者提供

在許多情況下，輸入符號會在進入 RNN 之前通過嵌入層以降低維度。在這種情況下，如果輸入向量的維度是 emb_size，而狀態向量是 hid_size，則 W 的大小為 emb_size×hid_size，H 的大小為 hid_size×hid_size。

長短期記憶（LSTM）

經典 RNN 的主要問題之一是所謂的梯度消失問題。由於 RNN 是通過一次反向傳播端到端訓練的，它很難將誤差傳遞到網路的第一層，因此網路無法學習遠距符號之間的關係。解決這個問題的一種方法是通過使用所謂的門引入顯式狀態管理。有兩種著名的架構：長短期記憶（Long Short Term Memory，LSTM）和門控遞歸單元（Gated Relay Unit，GRU）。

圖片來源待定

LSTM 網路的組織方式與 RNN 類似，但有兩個狀態會在層與層之間傳遞：實際狀態 C 和隱藏向量 H。在每個單元中，隱藏向量 H_i 與輸入 X_i 進行拼接，並通過門控制狀態 C 的變化。每個門都是具有 sigmoid 激活（輸出範圍 [0,1]）的神經網路，可以通過與狀態向量相乘來視為逐位掩碼。以下是各個門的功能（從上圖左到右）：

• 遺忘門：接收隱藏向量並決定需要遺忘狀態向量 C 的哪些部分，哪些需要保留。
• 輸入門：從輸入和隱藏向量中提取信息並插入到狀態中。
• 輸出門：通過具有 tanh 激活的線性層轉換狀態，然後使用隱藏向量 H_i 選擇其部分組件以生成新狀態 C_i+1。

狀態 C 的組件可以被視為一些可以開啟或關閉的標誌。例如，當我們在序列中遇到名字 Alice 時，我們可能會假設它指的是女性角色，並在狀態中設置一個標誌，表示句子中有一個女性名詞。當我們進一步遇到短語 and Tom 時，我們會設置一個標誌，表示句子中有複數名詞。因此，通過操作狀態，我們可以追蹤句子部分的語法屬性。

✅ 理解 LSTM 內部運作的絕佳資源是 Christopher Olah 的這篇精彩文章 Understanding LSTM Networks。

雙向與多層 RNN

我們已經討論了單向運作的循環網路，從序列的開頭到結尾。這看起來很自然，因為它類似於我們閱讀和聽取語音的方式。然而，由於在許多實際情況下我們可以隨機訪問輸入序列，因此同時在兩個方向上進行循環計算可能更有意義。這樣的網路稱為雙向 RNN。在處理雙向網路時，我們需要兩個隱藏狀態向量，每個方向一個。

循環網路，無論是單向還是雙向，都能捕捉序列中的某些模式，並將其存儲到狀態向量中或傳遞到輸出中。與卷積網路類似，我們可以在第一層之上構建另一個循環層，以捕捉更高層次的模式，並從第一層提取的低層次模式中構建。這引出了多層 RNN 的概念，它由兩個或更多的循環網路組成，前一層的輸出作為下一層的輸入。

圖片來自 這篇精彩文章 作者 Fernando López

✍️ 練習：嵌入層

在以下筆記本中繼續學習：

• 使用 PyTorch 的 RNN
• 使用 TensorFlow 的 RNN

結論

在本單元中，我們了解到 RNN 可用於序列分類，但事實上，它們可以處理更多任務，例如文本生成、機器翻譯等。我們將在下一單元中探討這些任務。

🚀 挑戰

閱讀一些關於 LSTM 的文獻並考慮其應用：

• Grid Long Short-Term Memory
• Show, Attend and Tell: Neural Image Caption Generation with Visual Attention

課後測驗

回顧與自學

• Understanding LSTM Networks 作者 Christopher Olah。

作業：筆記本

免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤讀概不負責。