3.3 KiB
3.3 KiB
語言建模
語意嵌入（如 Word2Vec 和 GloVe）實際上是邁向語言建模的第一步——建立某種程度上能理解（或表示）語言本質的模型。
課前測驗
語言建模的核心理念是以無監督的方式在未標註的數據集上進行訓練。這點非常重要，因為我們擁有大量未標註的文本，而標註文本的數量則始終受限於我們能投入的標註工作量。通常，我們可以構建能夠預測文本中缺失單詞的語言模型，因為隨機遮蔽文本中的某個單詞並將其作為訓練樣本是一件相對簡單的事情。
訓練嵌入
在之前的例子中，我們使用了預訓練的語意嵌入，但了解這些嵌入是如何訓練的也很有趣。有幾種可能的想法可以用來訓練嵌入：
- N-Gram 語言建模：通過觀察前 N 個詞元（N-gram）來預測當前詞元。
- 連續詞袋模型（CBoW）：在詞元序列
W_{-N}, ...,W_N中，預測中間的詞元W_0。 - Skip-gram：從中間詞元
W_0預測一組相鄰的詞元 {W_{-N},\dots, W_{-1}, W_1,\dots, W_N}。
圖片來源：這篇論文
✍️ 範例筆記本：訓練 CBoW 模型
繼續學習以下筆記本中的內容：
結論
在上一課中，我們看到詞嵌入的效果就像魔法一樣！現在我們知道，訓練詞嵌入並不是一件非常複雜的事情，如果需要，我們應該能夠為特定領域的文本訓練自己的詞嵌入。
課後測驗
回顧與自學
- PyTorch 官方語言建模教學。
- TensorFlow 官方訓練 Word2Vec 模型教學。
- 使用 gensim 框架僅需幾行代碼即可訓練最常用的嵌入，詳情請參考此文檔。
🚀 作業：訓練 Skip-Gram 模型
在實驗中，我們挑戰你修改本課的代碼，將 CBoW 模型改為 Skip-Gram 模型進行訓練。閱讀詳情
免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵資訊，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤釋不承擔責任。