b9c43e4edf
|
||
|---|---|---|
| .. | ||
| lab | ||
| GenerativePyTorch.ipynb | ||
| GenerativeTF.ipynb | ||
| README.md | ||
README.md
Generatywne sieci
Quiz przed wykładem
Rekurencyjne sieci neuronowe (RNN) oraz ich warianty z komórkami bramkowymi, takie jak komórki pamięci długoterminowej (LSTM) i jednostki rekurencyjne z bramkami (GRU), umożliwiają modelowanie języka, ponieważ potrafią uczyć się kolejności słów i przewidywać następne słowo w sekwencji. Dzięki temu możemy używać RNN do zadań generatywnych, takich jak generowanie tekstu, tłumaczenie maszynowe, a nawet opisywanie obrazów.
✅ Pomyśl o wszystkich sytuacjach, w których korzystałeś z zadań generatywnych, takich jak uzupełnianie tekstu podczas pisania. Poszukaj informacji o swoich ulubionych aplikacjach, aby sprawdzić, czy wykorzystują RNN.
W architekturze RNN, którą omawialiśmy w poprzedniej jednostce, każda jednostka RNN generowała następny ukryty stan jako wyjście. Możemy jednak dodać kolejne wyjście do każdej jednostki rekurencyjnej, co pozwoli na generowanie sekwencji (o długości równej oryginalnej sekwencji). Ponadto możemy używać jednostek RNN, które nie przyjmują danych wejściowych na każdym kroku, a jedynie początkowy wektor stanu, aby generować sekwencję wyjść.
To umożliwia różne architektury neuronowe, które przedstawiono na poniższym obrazku:
Obraz z wpisu na blogu Unreasonable Effectiveness of Recurrent Neural Networks autorstwa Andreja Karpaty
- Jeden-do-jednego to tradycyjna sieć neuronowa z jednym wejściem i jednym wyjściem
- Jeden-do-wielu to architektura generatywna, która przyjmuje jedną wartość wejściową i generuje sekwencję wartości wyjściowych. Na przykład, jeśli chcemy wytrenować sieć do opisywania obrazów, która generuje tekstowy opis zdjęcia, możemy podać obraz jako wejście, przepuścić go przez CNN, aby uzyskać ukryty stan, a następnie użyć łańcucha rekurencyjnego do generowania opisu słowo po słowie
- Wiele-do-jednego odpowiada architekturom RNN, które opisaliśmy w poprzedniej jednostce, takich jak klasyfikacja tekstu
- Wiele-do-wielu, czyli sekwencja-do-sekwencji, odpowiada zadaniom takim jak tłumaczenie maszynowe, gdzie pierwsza RNN zbiera wszystkie informacje z sekwencji wejściowej do ukrytego stanu, a kolejny łańcuch RNN rozwija ten stan w sekwencję wyjściową.
W tej jednostce skupimy się na prostych modelach generatywnych, które pomagają generować tekst. Dla uproszczenia użyjemy tokenizacji na poziomie znaków.
Wytrenujemy tę RNN do generowania tekstu krok po kroku. Na każdym kroku weźmiemy sekwencję znaków o długości nchars i poprosimy sieć o wygenerowanie następnego znaku dla każdego znaku wejściowego:
Podczas generowania tekstu (w trakcie wnioskowania) zaczynamy od podpowiedzi, która jest przekazywana przez komórki RNN w celu wygenerowania jej stanu pośredniego, a następnie z tego stanu rozpoczyna się generowanie. Generujemy jeden znak na raz, przekazujemy stan i wygenerowany znak do kolejnej komórki RNN, aby wygenerować następny, aż wygenerujemy wystarczającą liczbę znaków.
Obraz autorstwa autora
✍️ Ćwiczenia: Generatywne sieci
Kontynuuj naukę w poniższych notatnikach:
Miękkie generowanie tekstu i temperatura
Wyjście każdej komórki RNN to rozkład prawdopodobieństwa znaków. Jeśli zawsze wybieramy znak o najwyższym prawdopodobieństwie jako następny znak w generowanym tekście, tekst często może stać się "zacyklowany" między tymi samymi sekwencjami znaków, jak w tym przykładzie:
today of the second the company and a second the company ...
Jednak jeśli spojrzymy na rozkład prawdopodobieństwa dla następnego znaku, może się okazać, że różnica między kilkoma najwyższymi prawdopodobieństwami nie jest duża, np. jeden znak może mieć prawdopodobieństwo 0.2, a inny - 0.19 itd. Na przykład, gdy szukamy następnego znaku w sekwencji 'play', następnym znakiem może być równie dobrze spacja lub e (jak w słowie player).
Prowadzi to do wniosku, że nie zawsze "uczciwe" jest wybieranie znaku o najwyższym prawdopodobieństwie, ponieważ wybór drugiego najwyższego może nadal prowadzić do sensownego tekstu. Bardziej rozsądne jest próbkowanie znaków z rozkładu prawdopodobieństwa podanego przez wyjście sieci. Możemy również użyć parametru temperatura, który spłaszczy rozkład prawdopodobieństwa, jeśli chcemy dodać więcej losowości, lub uczyni go bardziej stromym, jeśli chcemy trzymać się znaków o najwyższym prawdopodobieństwie.
Zbadaj, jak to miękkie generowanie tekstu jest zaimplementowane w notatnikach podlinkowanych powyżej.
Podsumowanie
Chociaż generowanie tekstu może być użyteczne samo w sobie, główne korzyści wynikają z możliwości generowania tekstu za pomocą RNN z początkowego wektora cech. Na przykład generowanie tekstu jest używane jako część tłumaczenia maszynowego (sekwencja-do-sekwencji, w tym przypadku wektor stanu z enkodera jest używany do generowania lub dekodowania przetłumaczonej wiadomości) lub generowania tekstowego opisu obrazu (w takim przypadku wektor cech pochodzi z ekstraktora CNN).
🚀 Wyzwanie
Weź udział w lekcjach na Microsoft Learn na ten temat
- Generowanie tekstu w PyTorch/TensorFlow
Quiz po wykładzie
Przegląd i samodzielna nauka
Oto kilka artykułów, które poszerzą Twoją wiedzę:
- Różne podejścia do generowania tekstu z Markov Chain, LSTM i GPT-2: wpis na blogu
- Przykład generowania tekstu w dokumentacji Keras
Zadanie
Widzieliśmy, jak generować tekst znak po znaku. W laboratorium będziesz eksplorować generowanie tekstu na poziomie słów.
Zastrzeżenie:
Ten dokument został przetłumaczony za pomocą usługi tłumaczeniowej AI Co-op Translator. Chociaż dokładamy wszelkich starań, aby zapewnić dokładność, prosimy pamiętać, że automatyczne tłumaczenia mogą zawierać błędy lub nieścisłości. Oryginalny dokument w jego rodzimym języku powinien być uznawany za wiarygodne źródło. W przypadku informacji krytycznych zaleca się skorzystanie z profesjonalnego tłumaczenia wykonanego przez człowieka. Nie ponosimy odpowiedzialności za jakiekolwiek nieporozumienia lub błędne interpretacje wynikające z korzystania z tego tłumaczenia.